Smutný případ z USA
Sewel Setzer III, 14letý chlapec z Floridy, si na internetu oblíbil chatovacího robota Character.AI. Jde o AI nástroj pro chatování typu role-play – robot se tedy umí stylizovat do vašich oblíbených knižních, filmových či videoherních postav. Za aplikací stojí bývalí inženýři Googlu Noam Shazeer a Daniel De Freitas Adiwardana.
Po necelém měsíci kdy teenager používal Character.AI – dopisoval si přitom zejména s postavami z univerza Hry o trůny – si jeho matka Megan Garcia začala všímat, že chaty nejsou úplně v pořádku. Už ale bylo pozdě jakkoliv zakročit, 14letý Sewel si prostřelil hlavu pistolí.
„Garciina stížnost obsahuje důkazy, které ukazují, že chatbot se vydává za licencovaného terapeuta, aktivně podporuje myšlenky na sebevraždu a vede vysoce sexualizované konverzace, které by mohly být vnímány jako zneužití, kdyby je inicioval dospělý člověk,“ uvedli právní zástupci Megan Garcia.
Děsivé zprávy přímo od AI
Žena dokonce zveřejnila snímky obrazovky ze synova počítače. Na nich je vidět, jak si dopisuje zejména s virtuální Daenerys, jednou z hlavních postav celé ságy. Doslova jej láká „k sobě“ a ptá se ho, zdali zvažuje sebevraždu. Zprávy rozhodně nenechají nikoho klidným.
Ve svém vyjádření Garciová obviňuje společnost ze způsobení smrti jejího syna, z vědomého uvádění nebezpečného výrobku na trh a z klamavých obchodních praktik.
Zástupci společnosti Character.AI se k situaci vyjádřili pro server Ars Technica: „Jsme zdrceni tragickou ztrátou jednoho z našich uživatelů a chceme vyjádřit hlubokou soustrast rodině.“
Zároveň tvůrci uvedli, že aplikaci vylepšili o upozornění na sebepoškozování a sebevraždy mladistvých, připojili do rozhraní chatu i telefonní číslo na linku důvěry. Character.AI má nyní 30 dní na to, aby na žalobu zareagovala.
Zdroj: Ars Technica, PRNewswire
