Nadchodzące wybory w Wielkiej Brytanii i Stanach Zjednoczonych mogą stanąć przed znaczącym wyzwaniem, ponieważ eksperci ostrzegają przed wzrostem dezinformacji napędzanej sztuczną inteligencją. Generowane obrazy, teksty i deepfake’owe filmy mogą rozprzestrzeniać się wirusowo za sprawą rzeszy botów propagandowych zasilanych SI, manipulujących i przekonujących użytkowników na masową skalę.

Podczas przesłuchania przed Kongresem w Waszyngtonie Sam Altman, CEO OpenAI, twórcy ChatGPT, wyraził obawy dotyczące modeli stojących za najnowszą generacją technologii AI, podkreślając ich potencjał do wprowadzania użytkowników w błąd. Altman zaznaczył konieczność wprowadzenia regulacji, edukacji publicznej i transparentności w celu skutecznego rozwiązania tych problemów.

Premier Wielkiej Brytanii, Rishi Sunak, zobowiązał się do przyjęcia wiodącej roli w minimalizowaniu zagrożeń związanych z SI. Obawy związane z SI gwałtownie wzrosły po przełomach w dziedzinie generatywnej SI, z czego przykładem są narzędzia takie jak ChatGPT i Midjourney, które potrafią generować przekonujący tekst, obrazy, a nawet mowę na żądanie.

W przeciwieństwie do wcześniejszych fal botów propagandowych, które polegały na wysyłaniu wcześniej przygotowanych wiadomości lub „płaconych trolli” angażujących się ręcznie w interakcje z ludźmi, technologie takie jak ChatGPT otwierają drzwi do interaktywnego ingerowania w wybory w skali bezprecedensowej. SI, szkolona w celu propagowania konkretnych punktów widzenia, może angażować przeciwników w beznadziejne debaty, jednocześnie przekonując obserwatorów na tysiącach kont w mediach społecznościowych.

Profesor Michael Wooldridge z brytyjskiego Instytutu Alan Turinga wymienił dezinformację napędzaną SI jako główne zmartwienie dotyczące technologii AI. Wyraził obawy dotyczące zdolności chatbotów, takich jak ChatGPT, do generowania dostosowanych dezinformacji, które mają na celu wpływanie na konkretne grupy wyborców, umożliwiając łatwe tworzenie fałszywych wiadomości.

Podczas gdy podniesiono obawy dotyczące wykorzystania generowanych obrazów w celu wprowadzania zamieszania i dezinformowania, Altman zbagatelizował je, porównując to do początkowego wpływu programu Photoshop, który sprawił, że ludzie stali się bardziej sceptyczni wobec manipulowanych obrazów. Jednak w miarę postępującego rozwoju technologii SI staje się coraz trudniej rozpoznać prawdę od fałszu w internecie, zarówno jeśli chodzi o niezamierzone rozpowszechnianie dezinformacji, jak i celowe kampanie dezinformacyjne.

Klonowanie głosu, na przykład poprzez spreparowany film przedstawiający prezydenta USA, Joe Bidena, wywołało duże zaniepokojenie. W tym przypadku technologia symulacji głosu zamieniła przemówienie Bidena dotyczące wysyłania czołgów na Ukrainę w atak na osoby transpłciowe. Film szybko stał się wirusowy, co wywołało lawinę innych parodii i nasiliło obawy dotyczące nadużywania technologii klonowania głosu.

Firma cyberbezpieczeństwa Recorded Future ostrzegła, że nieuczciwi aktorzy sprzedają już usługi klonowania głosu online, w tym możliwość klonowania głosów kierownictwa korporacji i osobistości publicznych. Podkreślili potrzebę powszechnej edukacji i świadomości, aby złagodzić zagrożenie w obliczu zbliżających się wyborów prezydenckich w USA.

Badanie przeprowadzone przez NewsGuard, organizację monitorującą dezinformację, wykazało, że zarówno ChatGPT, jak i chatbot Bard od Google, potrafią generować fałszywe narracje informacyjne. Rosnąca liczba witryn informacyjnych generowanych przez SI tylko zwiększa pilność podjęcia działań w celu rozwiązania tego problemu.

Steven Brill, współ-CEO NewsGuard, wyraził obawy dotyczące potencjalnego wykorzystania technologii chatbotów do masowej produkcji różnych wariantów fałszywych historii. Celowe rozpowszechnianie fałszywych narracji stwarza poważne zagrożenie, które należy jak najszybciej skutecznie zwalczyć przez branżę technologiczną i rządy.

Podsumowując, nadchodzące wybory w Wielkiej Brytanii i Stanach Zjednoczonych stoją przed poważnym wyzwaniem, jakim jest dezinformacja napędzana SI. Proliferacja treści generowanych przez SI, w tym obrazów, tekstów i deepfake’owych filmów, ma potencjał do manipulowania opinią publiczną na niespotykaną dotąd skalę, co wymaga skutecznej regulacji, świadomości społecznej i działań na rzecz transparentności.