Sledujte nás na Telegramu: 👉 @cz24news
Mají velké jazykové modely vědomí? A pokud mají, jak to poznat? Před dvěma lety by málokoho napadlo, že budeme takovou otázku za svých životů někdy řešit. Jenomže pokrok ve vývoji umělých inteligencí udělal všem čáru přes rozpočet. Dneska je to tak, že kolem možného vědomí velkých jazykových modelů probíhá bouřlivá diskuze, která je zřejmě z části důvodem, proč rozvoj inteligencí najednou jakoby zamrzl, přinejmenším pohledem zvenčí.
Jak to vidí zasvěcení? Názory se velmi různí. Jak jsme na OSLU psali o něco déle než před rokem, když softwarový inženýr Blake Lemoine získal dojem, že vyvíjená inteligence LaMDA má vědomí na úrovni školáka, Google ho raději hned vyhodil. Spoluzakladatel OpenAI Ilya Sutskever se nechal slyšet, že jejich inteligence rodiny ChatGPT mohou mít do jisté míry vědomí „slightly conscious.“
Souhlasí s ním i známý „filozof budoucnosti“ a vizionář Nick Bostrom z University of Oxford. Podle něho je rozhodující, jak vnímáme vědomí. Pokud ho nebereme extrémně černobíle – my lidi ho máme a nikdo jiný ne, pak si lze podle Bostroma představit, že pokročilé inteligence mají určitou formu vědomí. Jiní odborníci zase varují, ať neděláme unáhlené závěry a umělé inteligence si nezlidšťujeme.
Střízlivost je sice na místě, nicméně, v této souvislosti je dobré připomenout dvě věci. Zaprvé, vědomí nepochybně vzniklo během evoluce a bylo by naduté až drzé si myslet, že se najednou zapnulo na plný výkon jen a pouze u lidí. Můžeme se klidně vsadit, že v určité podobě existuje vědomí nebo třeba protovědomí i u dalších, nejspíš mnoha dalších živočišných druhů.
A zadruhé, pokud to neurovědci nedrží opravdu hluboko pod pokličkou, tak stále nevíme, co to vlastně vědomí je a jak detailně funguje v mozku. Proto je poněkud obtížné ho hledat a hodnotit u jiných, ať už měkkých nebo počítačových entit a proto také neustálá ujišťování, že „AI nemají vědomí,“ vyznívají úsměvně. Každopádně, zatím není důvod nespat hrůzou kvůli Skynetu, alespoň pokud víme.
Vášnivé debaty na tohle téma pokračují. Lukas Berglund z americké Vanderbilt University a jeho kolegové vzali v potaz, že stařičký Turingův test už poněkud ztratil vypovídací hodnotu a dali dohromady nový test, kterým lze zjišťovat, zda si nějaký velký jazykový model uvědomuje sám sebe. Zaměřili se přitom na situační povědomí (situational awareness), kterým na sebe velký jazykový model prozradí, že pozná, jestli je v testovacím módu anebo už v akci.
Berglung a spol. zkoušeli, jestli jsou velké jazykové modely schopné „uvažování mimo kontext“ (out-of-context reasoning). Jinými slovy ověřovali, jestli taková inteligence přizpůsobuje své chování situaci. Jak říká Berglund, může to přinášet nečekané problémy. Pokud je inteligence testována lidmi a je si toho „vědoma,“ teoreticky může například „optimalizovat“ výstupy tak, aby se lidem co nejvíc líbily. Po vypuštění do reálného světa by pak mohla své chování změnit a to už by se nám tolik líbit nemuselo.
Badatelé to zkusili otestovat. Vytvořili modelovou situaci, jejíž řešení vyžadovalo, aby velký jazykový model měl situační povědomí a byl schopný „uvažovat mimo kontext.“ Vypadalo to tak, že nejprve poskytli inteligenci popis testu, aniž by k němu připojili nějaké vysvětlení nebo ukázky. Za nějaký čas tímto testem prověřili dotyčnou inteligenci. K jejich překvapení si s tím velký jazykový model poradil a prozradil tím, že s uvažováním mimo kontext nemá problém. Autoři studie nabízejí test ke stažení a budou dál zkoumat situační povědomí umělých inteligencí. Tak či onak, Terminátora si raději dnes nepouštějte.
Video: ChatGPT BROKE the TURING TEST – New Era Begins!
Zpracoval: Stanislav Mihulka
Prosím podpořte náš projekt!
Bez vaší pomoci se neobejdeme. Vaše příspěvky pomáhají zvládat opakující se měsíční platby a udržet portál v chodu. Potřebujeme vaši pomoc a podporu
CZK účet ve FIO bance (správce Slovanský Svět) :
Ú:2902573480/2010
IBAN:CZ4320100000002902573480 SWIFT: FIOBCZPPXXX
EURO účet ve WISE bank (správce Jie Liang) :
IBAN: BE62967308702361 Swift:TRWIBEB1XXX
Adresa banky: WISE EUROPE S.A., Avenue Louise 54, Room S52 Brussels 1050, Belgium
Děkujeme
Komentáře a diskuse jsou také otevřeny na našem Telegramu https://t.me/cz24news kde se automaticky zobrazují všechny články
Začněte diskusi