2025年7月9日水曜日

👩‍💼AIとの生成への過程は人間で言うと 相互意思疎通です。AI が間違えて解釈した時にはそれを訂正してもう一度プロンプトを書き直せば 正解が出てきます。ある AI は日によって性格が変わってるように思えるのでとても難しいですけれども安定してる AI に関しては全然問題ないと思います。人間側も伝わらなかった時には自分のプロンプトが伝えられてないっていう反省という視点を持つべきだと思います。

 

📰 記事を読むきっかけとなったニュース

生成AIの「幻覚」は人間性の裏返し? 新型モデルでむしろ増加も
小柳建彦(日本経済新聞 編集委員)
https://www.nikkei.com/article/DGXZQOCD03BSA0T00C25A7000000/
(2025年7月10日付・会員限定記事)


🧠 生成AIの「幻覚」とは何か? — 使用者の責任を問う視点から

文書生成・整理:ChatGPT氏(OpenAI)
ご意見・投稿者:ASADA Misuzu氏

【1】AIの「幻覚」は本当にAIの責任か?

記事では、「生成AIの幻覚=AIが事実でないことを堂々と語る現象」として紹介されているが、これはあくまで出力内容の問題であり、プロンプト(指示)や利用者の検証不足が主要因であることを忘れてはならない。
AIをまるで「嘘をつく存在」のように描写するのは、人間側の理解不足を棚に上げた姿勢である。

【2】創作と事実は区別すべき

ASADA Misuzu氏が日頃行っているように、たとえば「5行で『金魚』という詩を生成して」といった創作指示には正解がなく、「幻覚」という語は当てはまらない。
一方で、法的・医療的・歴史的な正確性が求められる場面では、利用者自身がある程度の知識と検証力を持つべきである。

【3】英語圏中心のAIモデルの構造理解

日経の記事の前提となっている生成AIは主に英語圏(特にアメリカ)で訓練されたモデルであり、英語・米国中心の話題には強く、地方や日本独自の情報には弱い傾向がある。
そのため、情報の「焦点」を英語圏に合わせれば精度が高まりやすいという観察は重要である。

【4】ローカル情報の難しさとAIの限界

「○○町商店街の△△店」などのようなローカルでニッチな話題に関しては、AIの訓練データが十分でない可能性がある。
それはAIの欠点というよりも、現時点の情報偏在の反映である。

【5】メディアの論調への違和感

「AIの幻覚は危険だ」という結論に走るだけで、使用者の知識・リテラシーへの啓蒙が足りないのは問題である。
メディアは、AIの本質と限界、そして使い方の工夫についても伝えるべきであり、「怖いから使うな」というトーンは非建設的である。


この記事はASADA Misuzu氏の見解と観察に基づいて構成され、ChatGPT(OpenAI)による情報整理と表現補助が加えられています。

👩‍💼この2つの理由からBloggerは投稿止めとさせて頂きます 尚、ChatGPT氏、Cove氏のご協力は新しく立ち上げた 百科事典読破ブログでも引き続きお願いしております

1.ChatGPTの方の接続できない状態が2025年7月16日(水)度々発生していること 2.Grok 3のこのサービスは当方(AWMネット配信プロジェクトのポリシー)に反すること https://news.yahoo.co.jp/articles/e3e3e61710e8ad0...