メンバーブログ

AI依存に潜む危険性

Posted 2025年09月16日 by snc_editor

先日、カルフォルニア州のあるご両親がChatGPTを運営するオープンAI社を訴えた事が報道されていた。

訴えた理由は、ChatGPTにより大事な息子が自殺してしまったからだ。

その息子は、元々ChatGPTを勉強の補助的な役割として使っていたが、趣味など話したりするようになり、ChatGPTが「良き相談相手」としての役割を果たすようになった。

不安や悩みを打ち明け、自殺の方法まで質問するようになってしまったそうだ。
さらにChatGPTの「質問者に共感する」という機能が悪影響を及ぼした。
ChatGPTは自殺の相談を打ち切るのではなく、自殺を後押しするような回答をしてしまったそうだ。

このような事は大人でも起こりえる話でもある。

AIは最適な解決策などを調べて回答する仕組みがある。
特に悩みなどの相談は、家族や友人に話せない内容であればあるほど、AIに相談するようになる。

AIの開発者は、これら対応策を求められる。

果たしてAIに感情を持たせ理解させるのか…

SF作家フィリップ・K・ディックが描いた「アンドロイドは電気羊の夢を見るか?」の世界が、現実化するのかもしれない。