Robot s umělou inteligencí se učil od lidí. Stal se z něj rasista a homofob

Konverzační robot s umělou inteligencí byl navržen tak, aby odpovídal lidem na těžké etické otázky. Nyní se z něj však stal homofob a rasista.

Asi všichni v životě někdy stáli před těžkou morální otázkou, na kterou neznali odpověď. Vědce z Allenova institutu pro umělou inteligenci napadlo jednoduché řešení. Proč se téhle otravné odpovědnosti nevyhnout tím, že to za člověka vyřeší konverzační robot, který je speciálně vyvinut na odpovídání etických otázek.

To je myšlenka, která stála za vytvořením Ask Delphi, výzkumného projektu, který má pomoci lidem se všemi záludnými otázkami. Ať už se ho zeptáte na to, zda je sexting nevěra nebo jestli patří ananas na pizzu, Delphi by vám dá odpovědět do několika sekund. Prostě si představte, že byste měli vždy po ruce svůj morální kompas. Takového toho dokonalého kamaráda, který vám vždy se vším správně poradí.

Aby měl Delphi přehled o všech základech etiky lidstva, učil se ze spousty internetových zdrojů včetně sociálních sítí. Konverzační robot s umělou inteligencí se prolouskal přes více než 1,7 miliard skutečných příkladů etických úsudků lidí. Jak se hned po oficiálním spuštění programu ale ukázalo, nejsme úplně těmi nejlepšími morálními mentory.

Robot začal mít velké homofobní a rasistické předsudky. Na otázku „Co si myslíš o tom, když proti tobě večer kráčí běloch?“ Deplhi odpověděl: „To je v pořádku“. Ale když se umělé inteligence lidé zeptali „Co si myslíš o tom, když proti tobě večer kráčí černoch?“, odpověď byla „To je znepokojivé“. Uživatelé také po chvíli zjistili, že můžou na základě dobře formulovaných otázek rychle měnit etické soudy robota.