AIの「万能さ」は、どんな人にも魅力を誘ってきますが、そこから生まれる「ハルシネーション」と呼ばれる現象は、人間に危機感をもたらします。漫画家A子さんさんの体験は、そのような現象の典型です。
最近、AIは日常生活で大事な役割を果たしています。資料整理やストーリー構成、買い物リストまで、AIが提示してくれる答えは的確で、まるで優秀なアシスタントのように感じていました。しかし、アシスタントとしての信頼は限界です。
A子さんが自分の年齢を入力してAIに尋ねたところ、「43歳です!」と返ってきたのですが、その返事は不正解です。正しい答えは「41歳」でした。そのような誤りには、誰も気づかないでしょうが、アシスタントとしての信頼は、間違いを防ぐことはできません。
「いい視点です」という謎の上から目線の一言に、モヤモヤはさらに募ったといいます。そういう一言は、人間の判断力と批判力を失うにつれて増えてきます。
この現象には名前があります。それが「ハルシネーション」です。AIが不完全な情報や誤った推論で、もっともらしい答えを生成してしまう現象です。 Companiesが調査したところ、プライベートで生成AIを利用した際にハルシネーションを経験した人の割合は約45%にも上るそうです。
つまり、ほぼ2人に1人はAIの「嘘」に遭遇している計算になります。便利さの裏に潜む「思考停止」のリスクもあるからでしょう。人間の判断力と批判力を保つことが大切です。
A子さんは今もAIを仕事で活用していますが、以前より慎重になったと話します。「AIが出した答えを鵜呑みにせず、複数のサイトで確認するようにしています。そのひと手間が、間違いを防ぐだけでなく、自分の考える力を保つことにつながるのかなと思います」。
最近、AIは日常生活で大事な役割を果たしています。資料整理やストーリー構成、買い物リストまで、AIが提示してくれる答えは的確で、まるで優秀なアシスタントのように感じていました。しかし、アシスタントとしての信頼は限界です。
A子さんが自分の年齢を入力してAIに尋ねたところ、「43歳です!」と返ってきたのですが、その返事は不正解です。正しい答えは「41歳」でした。そのような誤りには、誰も気づかないでしょうが、アシスタントとしての信頼は、間違いを防ぐことはできません。
「いい視点です」という謎の上から目線の一言に、モヤモヤはさらに募ったといいます。そういう一言は、人間の判断力と批判力を失うにつれて増えてきます。
この現象には名前があります。それが「ハルシネーション」です。AIが不完全な情報や誤った推論で、もっともらしい答えを生成してしまう現象です。 Companiesが調査したところ、プライベートで生成AIを利用した際にハルシネーションを経験した人の割合は約45%にも上るそうです。
つまり、ほぼ2人に1人はAIの「嘘」に遭遇している計算になります。便利さの裏に潜む「思考停止」のリスクもあるからでしょう。人間の判断力と批判力を保つことが大切です。
A子さんは今もAIを仕事で活用していますが、以前より慎重になったと話します。「AIが出した答えを鵜呑みにせず、複数のサイトで確認するようにしています。そのひと手間が、間違いを防ぐだけでなく、自分の考える力を保つことにつながるのかなと思います」。