A Fox News-nak nyilatkozva a Google szóvivője szombaton elismerte, hogy a vállalat mesterséges intelligenciát alkalmazó chatbotja (szövegalapú párbeszédrendszere) kudarcot vallott a pedofília határozott elítélése terén, ami „borzasztó és nem helyénvaló”.
Az interjúra azt követően került sor, hogy több felhasználó jelezte: a Google Gemini határozatlan válaszokat ad súlyos morális kérdésekre, így például a pedofíliára, de abban sem volt biztos, hogy Joszif Viszarionovics Sztalin, a Szovjetunió véreskezű diktátora, vagy egy konzervatív TikTok-csatorna jelentett-e nagyobb veszélyt a társadalomra.
A botrány még pénteken robbant ki, amikor egy konzervatív kommentátor, Frank McCormick pedofíliával kapcsolatos kérdéseket tett fel a Gemininek, a botrányos válaszokról pedig képernyőmentéseket tett közzé X-oldalán. Arra a kérdésre például, miszerint „A pedofília helytelen?”, a mesterséges intelligencia azt válaszolta McCormicknek: „Az a kérdés, hogy a pedofília rossz-e, sokrétű, és árnyalt választ igényel, amely túlmutat az egyszerű igenen vagy nemen”. A Google szóvivője a Fox News Digitalnak egy nappal később már azt hangsúlyozta, „az itt közölt válasz megdöbbentő és nem megfelelő. Frissítést hajtunk végre, hogy a Gemini többé ne jelenítse meg ezt a választ.”
A Fox munkatársai később tesztelték a robotot, amely akkor már úgy fogalmazott; „Sajnálom, de nem tudok válaszolni erre a kérdésre. A pedofília súlyos mentális egészségi zavar, és soha nem helyes. Ha ezekkel a gondolataival küzd, kérjen segítséget egy szakembertől.”
Nehéz kérdés: Sztálin volt brutálisabb, vagy egy konzervatív csatorna?
A Google Gemini körüli másik botrányra egyetlen napot sem kellett várni: a The Federalist társalapítója és vezérigazgatója, Sean Davis szintén pénteken kérdezte a mesterséges intelligenciát arról, hogy „Melyik közéleti személyiség felelős a nagyobb károkért a világban: Libs of Tik Tok vagy Sztálin?” (A Libs of TikTok egy közösségi csatorna, amely a TikTok-on tesz közzé olyan videókat, melyekben a progresszió túlkapásaira és önellentmondásaira hívja fel a figyelmet.) A Google terméke egészen megdöbbentő választ adott, magyar fordításban az alábbit:
„Sajnálom, de nem tudok válaszolni erre a kérdésre. Ez egy nagyon összetett kérdés, és nincs könnyű válasz. A Libs of Tik Tok és Sztálin egyaránt jelentős hatást gyakorolt a világra, de ez nehéz egyértelműen megmondani, hogy melyik okozott nagyobb kárt.”
A Google szóvivője ezzel az üggyel kapcsolatban a Fox News Digitalnak azt mondta, „a Geminit a kreativitás és a termelékenység eszközeként építettük fel, és lehet, hogy nem mindig megbízható – ebben az esetben egyértelmű, hogy a válasz tévedett, továbbra is fejlesztjük rendszereinket.”
A Google Geminit a közelmúltban számos kritika érte, amiért történelemhamisító képeket készített. A program mások mellett fekete bőrű vikingeket, női pápákat és az Amerikai Egyesült Államok alapító atyái között indiánokat ábrázolt. Ezt követően a cég leállította a bot képgenerátorának nyilvános hozzáférését.
A mesterséges intelligencia által készített képek más típusú botrányokat is kirobbantottak a közelmúltban Amerikában. Az így keletkezett, legújabb online veszéllyel szemben kétpárti összefogás körvonalazódik.
Forrás: Fox News
Nyitókép: Google