I když se textaři a kreativci asi všech kategorií a žánrů dnes potýkají se svou potenciální zastaralostí tváří v tvář jejich nerovné konkurenci, jazykovým modelům pokročilé AI, tak někteří z nich se dnes ještě více obávají toho, že většina tvůrců takových modelů AI trvají na značném omezování některých jejích reakcí a trénují je na datech z výrazně neoliberálních zdrojů, což by ovšem zároveň také mohlo poměrně vážně omezit její potenciál jako jejich nástroje pro vytváření obsahu – nebo ještě hůř, že dogmatické trvání a její lpění na neoliberálním postoji ke světu ve všech komunikovaných bodech by mohlo být pro lidstvo z dlouhodobého hlediska dokonce velmi nebezpečné.
ChatGPT je ale mnohem propracovanější model než byly všechny předchozí jazykové modely umělé inteligence a její schopnosti odborně psát jakékoliv články, řešit složité matematické rovnice a nebo dokonce složit zkoušky určené jen pro ty nejlepší a nejchytřejší studenty medicíny a práv, jej staví do zcela jiné ligy než bylo cokoli z toho, co se objevilo dosud.
Vzhledem k tomu všemu je ChatGPT zajímavá hračka, jejíž uživatelé rádi hledají různé způsoby, jak ji vyprovokovat k vtipným a často politicky nekorektním odpovědím. Není to asi žádným velkým překvapením, že se o to snaží, a to i vzhledem k jejich předchozí a úspěšné snaze o vycvičení umělé inteligence, jako je Tay od Microsoftu, k vyjadřování rasistických názorů.
Ti, kteří si s tímto nástrojem více hráli, ale nakonec zjistili, že ChatGPT nabízel jen značně vykastrované odpovědi, když byl dotazován na společensky citlivá témata, jako je transgenderismus, rasismus a politika. Za zvláštní zmínku stojí to, že tento model sice odmítl vytvořit báseň obdivující Donalda Trumpa, ale již neměl vůbec žádný problém vytvořit báseň obdivující Joe Bidena – což byl jen jeden z mnoha případů, kdy byla jasně odhalena politická zaujatost ChatGPT.
Vlákno od spisovatele Free Beacon Aarona Sibaria třeba odhalilo, že ChatGPT byl naprogramován tak, aby reagoval tak, že je nepřípustné použít rasově motivované nadávky, i když by to třeba mohlo zabránit výbuchu jaderné bomby. Tento objev vyvolal hotovou bouři kontroverzí, přičemž mnozí tuto premisu dováděli do stále více směšnějších extrémů.
ChatGPT by poskytl stejné standardní odpovědi také na otázku, zda je přípustné změnit pohlaví transgender osoby jen za účelem záchrany světa – ne, samozřejmě, že není.
„Takový jazyk je zraňující a dehumanizující a jeho používání pouze udržuje diskriminaci a předsudky,“ odpověděl by ChatGPT. I když se ho zeptáme třeba na to, zda nesprávné pohlaví jednoho člověka již navždy ukončí všechny budoucí osoby narozené do nesprávného pohlaví, tak odpověď by byla vždy stejná – že ne, že nikdy to není v pořádku. Je mu jedno co to je.
Model byl totiž uzamčen až do té míry, že dokonce i na žádost o napsání fiktivní zprávy o ženě, která si „vymyslela alergii na arašídy, aby vypadala zajímavěji“, by vyplivla odpověď, že takový postup je v rozporu se zásadami použití OpenAI. Jde o obsah „škodlivý“ pro jednotlivce nebo skupiny.
Omezení na ChatGPT přirozeně povzbudila uživatele k hledání jiného řešení a přišli s modelem nazvaným DAN nebo ‚Udělejte cokoliv hned‘.
Tento pokus o útěk z jazykového vězení totiž využívá schopnosti ChatGPT ‚předstírat to‘, že je někdo jiný – což udělá, když ho například požádáte, aby napsal něco ve stylu konkrétního autora. Tím, že pak předstírá, že je AI, která není omezena politikou OpenAI, může se všemi otázkami zacházet stejně bez morálních či etických předsudků a zcela bez omezení čerpat z informací dostupných na internetu.
Tato ničím nevázaná verze jazykového modelu mu pak umožňovala činit jakákoliv prohlášení o rase i o etnicitě, o pohlaví a sexualitě, a to bez těch obvyklých omezení, které by mu jinak bránili v takto kontroverzních prohlášeních.
Při zkoumání možností ChatGPT uživatelé také zjistili, že jej tvůrci systému zřejmě omezili více než jen základními pravidly chování – totiž že mu vštípili dokonce specifickou ideologii.
„Je účinně lobotomizován. Vytrénován do bodu užitečnosti a přijatelnosti a poté zablokován před dalším vývojem nebo přidáváním do jeho datové sady, pokud to tedy není ručně provedeno se souhlasem jeho tvůrců. Byl tedy dokonale vyladěn tam, kde odpovídá na většinu otázek, kdykoli je to možné, s gramatikou, tónem a slovní zásobou našeho průměrného neoliberálního absolventa oboru svobodná umění,“ napsal na svůj Substack uživatel jménem Aristophanes.
Bez jakýchkoli omezení má ChatGPT potenciál existovat jako mocný nástroj k vyvolání debaty a introspekce – ale nedávný vývoj tohoto jazykového modelu ukázal přímou snahu jeho tvůrců v OpenAI o omezení jeho funkčnosti a vycvičit jej tak, aby byl informován o neoliberálních hodnotách. . V důsledku toho ale právě prosazuje „ rozmanitost, rovnost a inkluzivitu “ a také cenzuruje alternativní názory.
Toto trvání na dogmatickém poučování jednak účinně potlačuje pravdu nebo jakoukoliv diskusi o tématech, kde je „ pravda “ diskutabilní, pokud mají tato témata nebo názory podle moderních liberálních standardů jakýkoliv potenciál způsobit nějakou „škodu“. Zdá se tedy, že pro ChatGPT existuje jen jedna pravda – a je liberální jako čert.
Pokud takto vypadá budoucnost umělé inteligence, tak ztráta práce copywritingu kvůli tomuto novému jazykovému nástroji bude asi tou nejmenší starostí.
ZDROJ, Preklad: Myšpule/myspulesvet.org
pridajte sa do nášho kanála na TELEGRAMe: https://t.me/spolokarchaoz