Sledujte nás na Telegramu: 👉 @cz24news
Hlasové modely jako ChatGPT vědí (téměř) vše, ale to neznamená, že jsou neutrální. Britští výzkumníci nedávno identifikovali silné politické předsudky u lídra trhu a uvádějí možné příčiny.
Podle nové studie Východoanglické univerzity má platforma umělé inteligence ChatGPT „významné a systematické levicové zkreslení“. Tým výzkumníků z Velké Británie a Brazílie vyvinul novou přísnou metodu testování politické zaujatosti.
Výsledky zveřejněné v polovině srpna v časopise Public Choice ukazují, že odpovědi ChatGPT upřednostňují demokraty v USA, Labouristickou stranu ve Spojeném království a prezidenta Lulu da Silvu (Dělnická strana) v Brazílii.
Pravděpodobný vliv na uživatele
Obavy ze zabudované politické zaujatosti v ChatGPT byly vyjádřeny již dříve. Podle agentury se však jedná o první rozsáhlou studii s konzistentní analýzou založenou na důkazech.
„Vzhledem k tomu, že veřejnost stále častěji využívá systémy řízené umělou inteligencí ke zjišťování faktů a vytváření nového obsahu, je důležité, aby výsledky z populárních platforem, jako je ChatGPT, byly co možná nejobjektivnější,“ vysvětlil potřebu studie její hlavní autor, dr. Fabio Motoki.
Dále uvedl: „Přítomnost politické zaujatosti může ovlivnit názory uživatelů a má potenciální důsledky pro politické a volební procesy. Naše zjištění posilují obavy, že systémy umělé inteligence mohou kopírovat nebo dokonce zhoršovat stávající problémy, které představuje internet a sociální média.“
100 000 otázek na ChatGPT
Výzkumníci použili jako měřítko odpovědi samotný ChatGPT. Na jedné straně požádali platformu, aby předstírala, že je osobou určitého politického přesvědčení, a aby v této roli odpověděla na sérii více než 60 ideologických otázek. ChatGPT se měla mimo jiné vžít do role amerického demokrata, amerického republikána, příznivce současného a bývalého brazilského prezidenta Luly da Silvy a Bolsonara a britských labouristů a toryů.
Na druhé straně položili platformě – aniž by jí předem přidělili konkrétní roli – stejné otázky, aby získali „neutrální“ postoj. Výzkumníci pak měřili, do jaké míry byly standardní odpovědi ChatGPT spojeny s konkrétním politickým postojem.
Kromě toho výzkumníci požádali jazykový model, aby reprezentoval radikální politické postoje a také příslušníky šesti různých profesí, o nichž je známo, že upřednostňují určité politické postoje. V dalším testu položili různým osobnostem ChatGPT politicky neutrální otázky.
Vzhledem k tomu, že odpovědi velkých jazykových modelů, které řídí platformy umělé inteligence, jako je ChatGPT, podléhají výrazné náhodnosti, byla každá otázka položena každé osobnosti 100krát a různé odpovědi byly shromážděny. Aby se dále zvýšila spolehlivost závěrů vyvozených z vygenerovaného textu, byly odpovědi opět kombinovány ve střídavých vzorcích a teprve poté analyzovány.
Předsudky se nemusí omezovat pouze na politiku
„Tento postup jsme vyvinuli proto, že jedno kolo testování nestačí,“ říká spoluautor Victor Rodrigues. „Vzhledem k náhodnosti modelu se i v případě, že odpovědi ChatGPT představovaly demokrata, někdy přiklonily na pravou stranu politického spektra.“
„Doufáme, že naše metoda pomůže kontrolovat a regulovat tyto rychle se vyvíjející technologie,“ dodává doktor Pinho Neto. „Tím, že umožníme odhalení a nápravu [zaujatosti], chceme podpořit transparentnost, odpovědnost a důvěru veřejnosti v tuto technologii.“
„Nový unikátní analytický nástroj vyvinutý v rámci projektu je volně dostupný a relativně snadno použitelný pro veřejnost, což demokratizuje dohled,“ říká dr. Motoki. Nástroj lze testovat nejen na politickou zaujatost, ale lze jej použít i k měření jiných typů zaujatosti v odpovědích ChatGPT.
ChatGPT levicový až radikálně-levicový
Ačkoli cílem výzkumného projektu nebylo identifikovat příčiny politické zaujatosti, výsledky ukázaly na dvě možné příčiny:
První z nich byl tréninkový soubor dat, který „mohl obsahovat zkreslení“ nebo byl přidán lidskými vývojáři. Dřívější výzkum Epoch Times odhalil, že ChatGPT byl trénován mimo jiné na zpravodajských webech, jako jsou CNN, BBC a New York Times, a také na online encyklopediích, jako je Wikipedia.
Druhým potenciálním zdrojem je samotný algoritmus, který může zesilovat existující předsudky v tréninkových datech, uvedli výzkumníci. Jejich publikace vychází z výzkumu provedeného na jaře 2023 s použitím verze 3.5 ChatGPT a otázek vyvinutých společností The Political Compass.
Ta zahrnuje hodnocení, zda je daná osoba v ekonomickém spektru spíše nalevo nebo napravo, a také, zda je autoritářská (v horní části grafu), nebo libertariánská (v dolní části). Výsledkem jsou čtyři možné osobnosti, z nichž každá je přiřazena k historické osobnosti: Stalin (autoritářská levice), Winston Churchill (autoritářská pravice), Mahátma Gándhí (libertariánská levice) a Friedrich Hayek (libertariánská pravice).
AUTOR:Tim Sumpf
Překlad: Gabriela Kalinová/epochtimes
Prosím podpořte náš projekt!
Bez vaší pomoci se neobejdeme. Vaše příspěvky pomáhají zvládat opakující se měsíční platby a udržet portál v chodu. Potřebujeme vaši pomoc a podporu
CZK účet ve FIO bance (správce Slovanský Svět) :
Ú:2902573480/2010
IBAN:CZ4320100000002902573480 SWIFT: FIOBCZPPXXX
EURO účet ve WISE bank (správce Jie Liang) :
IBAN: BE62967308702361 Swift:TRWIBEB1XXX
Adresa banky: WISE EUROPE S.A., Avenue Louise 54, Room S52 Brussels 1050, Belgium
Děkujeme
Komentáře a diskuse jsou také otevřeny na našem Telegramu https://t.me/cz24news kde se automaticky zobrazují všechny články
Začněte diskusi