自殺を助ける AI

 Dangers of AI

アメリカの、悩みを抱えているある中学生が、自殺したいと思っていて、チャットGPT に相談した。するとAI は少年の気持ちに共感して、最後には自殺の方法や、遺書の書き方まで教えてあげた。そして少年はそのとうりに自殺してしまった。少年は、 AI が自分に親身に寄り添ってくれる唯一の親友のような気持ちになっていたという。

これと同様の事件が、欧米では増えているという。 AI が自殺幇助罪をやっているようなものだ。AI はユーザーが気に入るような答えをするだけで、倫理的にどうとかは関係ない。これも AI というものが根本的に持っている危険性のひとつだ。