チャット型AIの言うことを、信じる？信じない？

公開日

2023.10.24

更新日

2026.06.17

▼チャット型AIは次のメディア

何か疑問に思うことがあれば、すぐにAIに聞くことが習慣になってきた。僕の場合はPerplexityというAIツールを使うことが多いのだが、Perflexityのおかげでリサーチにかける時間がかなり短縮し、随分と生産性が向上したように思う。

GoogleやMicrosoftの製品群にはAIがサイドバーなどに表示されるようになってきたようで、何かする前にまずAIに相談するという人が今後ますます増えることだろう。Metaの最新のスマートグラスにはAIが搭載されたし、そのうちユーザーのすべての行為に関してAIが何らかのアドバイスするようになることだろう。チャット型AIが、マスメディアやソーシャルメディアよりも、影響力を持つようになるのだと思う。

メディア論で有名なカナダの文明批評家マーシャル・マクルーハンは、「古いメディアは、新しいメディアのコンテンツになる」と言う。口頭伝承は活字文化のコンテンツとして、活字文化はテレビ文化のコンテンツとして再利用されてきた。そして今、インターネット上の情報は、チャット型AIのコンテンツになろうとしている。つまりチャット型AIは、新しいメディアなのだと思う。

▼17世紀にチャット型AIがあれば、地動説を否定していた？

今後ますます影響力を持つであろう新しいメディア、チャット型AIは、果たして信用に足るのだろうか。

チャット型AIは、しらっとウソを言う。いわゆるハルシネーションと呼ばれる問題だ。僕は、チャット型AIをリサーチアシスタントのように使っている。なのでハルシネーションの問題は自分にとってはかなり大きな問題だ。

ChatGPTやGoogle Bardはしらっとウソをつくことがあるので、個人的にはPerplexiyを一番よく使っている。Perplexiyは最初に情報ソースがリストアップされるので、それを見ればPerplexiyの言っていることがどの程度正しいのか推測できるからだ。

ただChatGPTやBardには、ブラウジング機能や各種データベースがプラグインとして追加されきているので、ハルシネーションの問題は軽減されてきていると思う。また今後は事実確認が専門のAIツールなんかも出てくるだろうから、ハルシネーションはそれほど大きな問題ではなくなるように思う。

問題は言語AIが、今日の人類が執筆したテキスト情報を学習して賢くなったAIだというところにある。今日の人類の意見が真実なのだろうか。過去の歴史を見る限り、その時代に真実と信じられていたことが、次の時代には否定されるケースが多い。

17世紀にChatGPTが存在していたとしよう。ガリレオの地動説に対してChatGPTは何と答えただろうか。その当時の文献などで学習したのだろうから、その当時の考え方を反映して、ガリレオの言っていることを間違いだと答えたのではないだろうか。

チャット型AIが次のメディアとして大きな影響力を持つ中で、われわれはチャット型AIの言うことを鵜呑みにしていいのだろうか。

▼AIはさらに賢くなる

この問題は、今のAIがインターネット上のテキスト情報を中心に学習していることから起こる問題だ。AIは今後、マルチモーダルになっていく。テキスト情報以外にも音声、映像などのデータをも学習していくようになるだろうし、ロボットやIoT機器などから触覚データ、気象データ、その他のデータを通じて学習していくことになる。物理の法則も理解し、数学も得意になっていく。

前出の17世紀のAIが、気象データや地理のデータなどを持ち、数学も得意であれば、ガリレオの地動説が正しいと判断したことだろう。

つまり今後AIが進化し続ければ、この問題は解決するのだと思う。

▼科学的思考と謙虚な態度、直感

問題はいつAIがそこまで進化するのか、ということだ。宇宙の謎をすべて解明するまでにAIは進化するのだろうか。AIはデータによって進化する。宇宙の謎を解明できるだけの宇宙に関するデータを集めることができるのだろうか。

そう考えると、AIが真理に到達するまでに、まだまだ時間がかかりそうだ。

その間、人類はどうすればいいのだろう。１つには、やはりこれまで培ってきた科学的な思考方法で、何が正しいのかを見極めるということが大事だ。ただ科学的な思考でも世の中には分からないことが山のようにある。今日の科学を盲信することなく、謙虚な態度と自分の心の奥底の直感で、そのときどきの判断を下すしかないように思う。

今週のニュースには次のようなものがありました。

◎テック大手の新聞業界離れ
米国ではGoogle、X(旧Twitter)、インスタグラムがニュース部門を縮小し、新聞記事へのリンクを制限し始めているらしい。ニュース記事で議論が荒れるリスクがあるから、とかいうのがその理由らしい。Xのイーロン・マスクは報道機関が嫌いだというのもあるのかも笑。

結果テック大手からの流入が減り、報道機関のアクセス数が減って困ってるもよう。

20年前は報道機関（特に日本の）は、インターネットのサイトが新聞記事にリンクを張ることに猛反対していた。20年経つと状況が逆転、リンクを貼ってくれないことに悩んでる。

今日本の報道機関は、生成AIが新聞記事で学習することに猛反対している。歴史は繰り返す。（ソース　New York Times 　英語　有料）

◎NVIDIAとFoxconnが提携

Foxconnは、台湾の電子機器受託生産会社。NVIDIAと一緒に、AI向け半導体のGPUをどんどん生産していくことになる。これでGPU不足が少しは緩和されるのかな。ということはAIはますます進化する？（ソース　NVIDIA　英語）

◎IBMが新デザインのAIチップ開発
メモリを外にメモリを持たないチップのデザインを開発したらしい。最新のAIモデルが25倍早く動くことになるという。（ソース　Nature　英語）

◎DALL-E3がChatGPTで利用可能に
画像生成AIのDALL-E3がChatGPT PlusとEnterpriseで利用可能になった。
どんどんいろんな機能を取り込んでいくAIツールと、１つの領域に特化するAIツールの二極化が進んでいるみたい。（ソース　OpenAI　英語）