Článek
Článek si také můžete poslechnout v audioverzi.
Norský muž podal stížnost na společnost OpenAI, jelikož její chatbot ChatGPT nepravdivě tvrdil, že zavraždil své dvě děti, informuje The Guardian.
Arve Hjalmar Holmen, který je podle svých slov obyčejný člověk v Norsku bez veřejné známosti, obdržel od ChatGPT na otázku „kdo je Arve Hjalmar Holmen?“ odpověď, podle níž zabil své vlastní syny.
„Arve Hjalmar Holmen je norská osobnost, která si získala pozornost díky tragické události. Byl otcem dvou malých chlapců ve věku 7 a 10 let, kteří byli v prosinci 2020 tragicky nalezeni mrtví v rybníku poblíž jejich domu v norském Trondheimu,“ odpověděl ChatGPT. Odpověď dále uváděla, že případ údajně šokoval celý národ a že Holmen dostal za vraždu obou dětí trest na 21 let vězení.
Holmen ve stížnosti norskému úřadu pro ochranu osobních údajů uvedl, že nepravdivý příběh nicméně obsahoval prvky podobné jeho vlastnímu životu, jako je jeho rodné město, počet dětí a věkový rozdíl jeho synů.
„Stěžovatel byl těmito výstupy hluboce znepokojen, mohly by poškodit jeho soukromý život, pokud by se rozšířily nebo unikly do jeho komunity či v jeho domovském městě,“ uvádí stížnost, kterou podal Holmen spolu se skupinou pro digitální práva Noyb.
„Holmen nebyl nikdy obviněn ani odsouzen za žádný trestný čin a je svědomitým občanem,“ dodala.
Stížnost Holmena tvrdila, že pomlouvačná odpověď porušila ustanovení o přesnosti v rámci evropského zákona o ochraně osobních údajů GDPR. Dále požádala norský dohledový orgán, aby nařídil mateřské společnosti ChatGPT, OpenAI, upravit svůj model tak, aby odstranil nepřesné výsledky týkající se Holmena a aby společnosti uložil pokutu.
Skupina Noyb uvedla, že od doby, kdy Holmen s ChatGPT interagoval, vydala společnost OpenAI nový model zahrnující vyhledávání na internetu, díky čemuž je opakování chyby týkající se odpovědi na Holmena méně pravděpodobná.
„Pokračujeme ve výzkumu nových způsobů, jak zlepšit přesnost našich modelů a omezit tak množství halucinací. I když tuto stížnost stále prověřujeme, týká se verze ChatGPT, která byla mezitím vylepšena o možnosti online vyhledávání, což zvyšuje přesnost,“ řekl mluvčí společnosti OpenAI.
Pokud se nyní ChatGPT zeptáte na otázku, kdo je Arve Hjalmar Holmen, umělá inteligence zmíní jeho spojitost s incidentem o smyšleném příběhu.„Arve Hjalmar Holmen je norský občan z Trondheimu, který se nedávno dostal do povědomí médií kvůli incidentu s umělou inteligencí ChatGPT,“ píše AI.
