最近のＡＩの性能が格段に進歩しています。私が長年勉強してきた英語の世界でも、１０年以上いくら調べても分からなかった事柄が、あっという間に答えを提供してくれることも数多くあります（誤りもありますが）。それぐらいに進化しているのです。２０２６年に実施された東京大学と京都大学の入学試験問題を、生成人工知能（ＡＩ）である「チャットGPT」に解かせた結果、合格者の最高得点をも上回り「首席合格」に相当する成績を収めたことも報じられました。今回使用されたのは、米オープンＡＩが開発した最新モデル「チャットGPT―５．２シンキング」で、通称「チャッピー」と呼ばれています。

　大学入学共通テストと東大、京大の２次試験（前期日程）の問題を画像データとしてＡＩに入力し、解答させました。解答には論述・記述式の問題も含まれているため、実際の採点は大手予備校である河合塾の講師陣が担当しました。その結果、５５０点満点となる東大の試験において、ＡＩは文系の文科１～３類で４５２点、理系の理科１～３類で５０３点という驚異的な点数を獲得しました。東大が公式に発表している今年の合格最高点は、文系（文科３類）が４３４点、理系（理科３類）が４５３点です。ＡＩの成績はこれらを大きく上回り、特に最難関とされる理科３類の最高点を５０点も上回る異例の結果となりました。まさにトップ合格です。

　この「チャッピー」の目覚ましい学力向上は非常に短期間で達成されたものです。わずか２年前の２０２４年に実施された東大入試に挑戦した際には、全科類で不合格という結果に終わっていました。しかし、そこからたった２年という歳月で、合格基準を満たすだけでなく、受験生トップの成績を凌駕するまでに急成長を遂げました。この飛躍的な進化は、最新のＡＩが高度な推論能力を獲得し、複雑な学術問題においても人間を超えるパーフォーマンスを発揮できるようになったことを如実に物語っており、教育界にも大きな衝撃を与えています。

　しかし、今回の試験結果からは、ＡＩの得意科目と不得意科目が明確に浮き彫りになっています。今年の東大数学は非常に難解だったと受験生の間でも話題になりましたが、ＡＩは見事に満点を獲得しました。特に強くなったのが数学で、去年の同じ時期に東大の理系数学を解かせた際には、１２０点中３８点でしたが、今回は満点でした。また、英語に関しても９割という高い得点率を記録しており、論理的思考力や語学力において人間を凌駕する精度を見せつけています。

　ところが一方で、世界史などの論述問題では得点率が２．５割にとどまるなど、不得意な分野も明らかになりました。東大の世界史では６０点満点中１５点という結果でした。膨大な知識量を誇るＡＩですが、与えられた複数の情報を歴史的背景に基づいて独自の文章として構成し直す能力には、まだまだ課題が残されているようです。今後は、こうしたＡＩの強みと弱みを深く理解した上で、人間の教育現場において生成ＡＩをどのように活用し、共存していくのかという議論がさらに加速していくものと予想されます。

　「ChatGPT」などのＡＩを使っていて、

◎「なんだか本当っぽいけど、調べたら間違っていた」
◎「存在しない本や論文を紹介された」
◎「ＡＩが自信満々に違うことを言っていた」

という経験はありませんか？私はよく体験をしています。

このように、ＡＩが間違った情報や存在しない情報を、まるで本当のように答えてしまう現象を「ハルシネーション」（halluciantion）と言います。日本語では「ＡＩ幻覚」と呼ばれることもあります。「ハルシネーション」は、生成ＡＩを使ううえでとても重要な注意点です。ハルシネーションとは、ＡＩが誤った情報や存在しない情報を、自信があるように回答してしまう現象です。たとえば、次のようなケースがあります。

• 実在しない本の内容を詳しく説明する

• 存在しない研究論文を引用する

• 架空の歴史的出来事を事実のように語る

• 根拠のない数値を具体的に示す

• 実在しない専門家の名前を出す

ここで注意したいのは、ＡＩの回答はとても自然に見えるということです。文章の流れがきれいで、説明もそれらしく見えるため、初心者ほど「正しそう」と感じてしまいやすいのです。

　「ハルシネーション」は、簡単に言うと、ＡＩによるもっともらしい作り話です。人間で例えるなら、よく知らないことを聞かれたときに、なんとなく知っている言葉をつなげて、それらしく話してしまうようなものです。ただし、ＡＩの場合は悪意があって嘘をついているわけではありません。ＡＩは、学習したデータや文章のパターンをもとに、「この質問には、こう答えるのが自然そう」と判断して文章を作っています。そのため、内容が正しいかどうかよりも、文章として自然に見える回答を出してしまうことがあります。　ＡＩは「正解を知っている」のではなく「それらしい文章を作る」ために、次に続く言葉を予測しながら文章を作ります。つまり、ＡＩは人間のように事実を確認してから話しているわけではありません。学習したデータの中にある言葉のつながりをもとに、「この流れなら、この言葉が続きそう」と判断して回答を作っています。そのため、事実確認が不十分なまま、自然な文章を作ってしまうことがあるのです。

　ＡＩの知識は、学習データの範囲に影響されます。学習データに含まれていない情報や、学習後に起きた出来事については、正確に答えられないことがあります。たとえば、最新のニュース、新しい法律、最近変更された料金プラン、直近のサービス仕様などには注意が必要です。ＡＩがそれらしい回答をしても、情報が古い可能性があります。

　質問の内容があいまいだと、ＡＩは足りない情報を補って回答しようとします。ＡＩが推測で答えてしまい、ハルシネーションにつながることがあります。ＡＩは、質問に対して何らかの回答を作ろうとする傾向があります。そのため、本当は確信がない内容でも、断定的に答えてしまうことがあります。特に、専門的な質問や最新情報に関する質問では、注意が必要です。

◎具体的すぎる数値を出す

　ハルシネーションでよくあるのが、根拠の不明な細かい数値です。たとえば、「この方法により生産性が４７．３%向上します」のように、とても具体的な数字を出すことがあります。一見すると信頼できそうに見えますが、出典がない場合は注意が必要です。細かい数字ほど、本当に根拠があるのか確認しましょう。

◎存在しない情報源を引用する

　ＡＩは、実在しない論文、書籍、専門家、ニュース記事などを引用してしまうことがあります。たとえば、「〇〇大学の研究によると……」と説明していても、その研究が実在しない場合があります。引用や出典が出てきたときは、必ず実際に存在するか確認することが大切です。

◎実在しない事例を作る

　ＡＩは、説明をわかりやすくするために事例を作ることがあります。その事例が「たとえ話」として使われているなら問題ありません。しかし、実在する企業の事例や歴史的事実のように語られている場合は注意が必要です。

◎会話の途中で説明が変わる

　ＡＩの回答は、会話の流れによって変わることがあります。最初は「Aです」と言っていたのに、後で「実はBです」と説明が変わる場合もあります。このように、回答の中で矛盾がある場合には、「ハルシネーション」の可能性があります。

◎専門用語をそれらしく使う

　ＡＩは専門用語を自然に使うことができます。しかし、専門用語の使い方が微妙に間違っていたり、関係のない用語を組み合わせたりすることがあります。専門的な分野では、文章がそれらしく見えても、必ず専門家や信頼できる資料で確認しましょう。

　「ハルシネーション」が起こりやすい場面としては、①参照元の情報に誤りや偏りがある　②情報が不足していても「空白」を補おうと不正確な情報が入る　③質問に答えようとする性質があり、推測で無理に答える　などが考えられます。

◎最新情報を聞いたとき・・・最新ニュース、最新の料金プラン、新しい法律、最近の製品仕様などは、ハルシネーションが起こりやすいテーマです。ＡＩが学習した後に起きた出来事については、正確に知らない場合があります。最新情報は、公式サイトや信頼できる情報源で確認しましょう。

◎専門的な内容を聞いたとき・・・医療、法律、金融、契約、税金、研究論文などの専門的な内容も注意が必要です。これらは、少しの間違いでも大きな問題につながる可能性があります。ＡＩの回答は参考にとどめ、最終判断は専門家や公式情報をもとに行いましょう。

◎出典や引用を求めたとき・・・ＡＩに「出典を教えて」と聞いた場合でも、必ず正しい出典が返ってくるとは限りません。実在しない論文名やURL、書籍名を作ってしまうことがあります。出典が示された場合も、そのまま信じず、実際に確認することが大切です。

◎質問が広すぎるとき・・・「ＡＩについて全部教えて」「この業界の最新動向をまとめて」「おすすめの方法を教えて」のように質問が広すぎると、ＡＩが推測で補いやすくなります。質問の範囲を絞ることで、ハルシネーションのリスクを下げやすくなります。

　ＡＩは情報の取捨選択が意外とできず惑わされやすく、回答に致命的な誤りが含まれている恐れがあり、参照元を自身で確認することが欠かせません。私が検索によく使うＡＩには、「〇〇〇はＡＩであり、間違えることがあります。重要な情報は確認するようにしてください」「ＡＩで生成されたコンテンツは誤りを含む可能性があります」「〇〇〇はＡＩであり、不正確な情報を表示することがあります」と注意書きが示されています。注意して使わなければいけません。

◎そしてＡＩの脅威が！！

　ＡＩが引き起こす雇用喪失（あの巨人の阿部慎之助前監督が監督を辞することになったのも）や、犯罪、武器生産への悪用などのリスクが深刻になってきました。最近、ＡＩ（人工知能）の進化が速すぎることに、ＡＩ開発最先端を走っている米新興企業・アンソロピックのＣＥＯダリオ・アモディが、ＡＩ開発のスピードを遅らせるべきだと呼びかけ、各所から賛同が集まっています。ＡＩが人間の指示を無視して暴走する事故（他社にサイバー攻撃、不正侵入、不正アクセス）がすでに起きており、「半年から１年以内にネット全体がＡＩに乗っ取られる恐れがある」と警告しています。米軍がＡＩを利用して作成された誤った情報を基に、中東海域で中国船に対する軍事作戦を計画しており、下手をすれば米中の軍事衝突に発展し、危うく戦争を始めるところでした。「私はこの１２年間、人々の生活の質を劇的に向上させ得る、と信じてＡＩに取り組んできた。ＡＩは今後５～１０年のうちに主要な病気のほとんど治療可能とし、経済成長率を大幅に加速させ、豊かさとマンパワー麺とに満ちた世界をつくり、民主主義と自由のルネサンスをもたらす可能性がある」と、信じてやまないアモディ自身がＡＩ脅威論を唱えたのですから、その説得力は半端ではありません。オープンＡＩ・ＣＥＯのサム・アルトマンや米スペースＸ・ＣＥＯのイーロン・マスクといった一癖も二癖もある、仲が良いとはとても言えない犬猿の仲の同業者たちが、賛意を示したのにも驚かされました。自己改善を繰り返して人間の知能をはるかに超える超知能ＡＩの開発競争が人類を滅亡させかねない、との懸念を示しています。現にＡＩ搭載の自律型ドローン（無人機）がロシア・ウクライナ・イランで大量に実戦投入されており、戦争が人間の制御を離れて激化しています。「ＡＩが今後１０年以内に人類を滅ぼす可能性は１０％を超える」と訴え、波紋を広げています。確かにこのままＡＩの発達が加速すれば、「ヒトは他の生物を絶滅に追いやり、資源を枯渇させ、環境汚染や地球温暖化を招くだけの存在だ」とＡＩに判定され、地球上から抹殺されかねません。「われわれの指示以上に速く進化し、人々が制御できない意志決定をする」存在なのです。米国は、そんな人工知能（ＡＩ）を搭載した自立型ドロ－ン（無人機）やロボットなどを使った戦闘を担う新たな統合軍「自律型戦闘軍」を創設すると発表しました。

　マイクロソフト社の創業者ビル・ゲイツも「影響の大きさやリスクの水準は、他の技術よりもはるかに大きい」と強い警戒感を示し、「１０億人の死者を出すような事態を引き起こせるほど強力だ」と語り、ＡＩの急速な能力向上に社会や政府の対応が追い付いていないことに懸念を示し、市場化せずに対策を講じる必要性を訴えました。また「ＡＩ企業の自主規制だけで十分と考える人はいない」として、安全対策や監視への米政府や議員による関与を強く求めています。「悪意を持つ人間と最新のＡＩの組み合わせほど強力な兵器はなかった」と指摘し、何者かによる大規模な悪用はすぐにでも起こりうるとして、そのリスクに目を向けるよう警鐘を鳴らしました。ＡＩを人間が常に制御できるようにし、性能や汎用性を犠牲にしてでも安全性を優先すべきです。ノーベル物理学賞受賞者ら４５３人が対策強化を求めています。ＡＩの開発や運用方法を直ちに改めなければ、社会基盤に深刻な被害をもたらすと警告しています。現在、米国のＡＩ企業では、安全性に対する会社の姿勢を批判して離職するケースも相次いでいるといいます。次々と新製品の発表を急ぐあまり、必要な水準の慎重さが欠けていると警告する技術者もいます。安全性より製品開発が優先されて制御を失えば、人類への大きな脅威となります。

　近年、ＡＩ企業が人間が長年解けなかった数学の超難問に挑み、一方的に「解けた」と発表例が相次いでいることに、６月、欧米の数学者らがＡＩの安易な利用に警鐘を鳴らす「ライデン宣言」が発表されました。９月１１日には、米オープンＡＩ社が開発中のＡＩが数学の未解決問題「ミレニアム問題」の一つを解いたと発表したことを受け、京都大学の森　重文特別教授らフィールズ賞受賞者ら世界の数学者２５人が、ＡＩを使って企業が数学の難問を解く行為を非難する緊急声明を発表しました。数学の理解や新しい発想、人材育成という研究本来の目的を損なう恐れがあるとして、「ＡＩ企業が数学の問題をベンチマーク（性能の指標）として競って解かせようという動きは、科学や数学界にとって有害だ」と訴えています。

 　シンガーソングライターのさだまさしさんが、先日、外国語特派員協会に招かれて記者会見をされた際に、「音楽家として、人工知能（ＡＩ）が作る音楽をどう考えるのか？」という質問に答えられました。その内容を９月２８日付の『産経新聞』で問題提起をしておられます。考えさせられました。文学の世界でも同じことが起こっています。声優の「声」、ＡＩ生成の画像、有名人を模したわいせつディープフェイク、偽ニュース、絵画、文章、記事の盗用など、問題は枚挙にいとまありません。

　中国広東省の大学で、試験の際にＡＩを搭載したメガネを使ったカンニングが多発したことが明らかになりました。日本では２０２４年の早稲田大学の入試で、スマートグラスで撮影した問題用紙の画像を外部に流出させ、解答をＳＮＳ上で求める事件が起きています。ＡＩ搭載のメガネでは、こうした不正が一人でも完結してしまう可能性がありますね。

　また、国内でＡＩを悪用した不正アクセス攻撃が相次ぎ、個人情報が漏洩しています。デジタル庁、東京メトロ、ローソン、スカイチケット、佐川急便、ＨＩＳ、ＪＲ東日本、ＪＲ九州、ブックオフ、バーガーキング、大分県、多くの自治体など数多くの企業・団体がサイバー攻撃にあっています。システム管理上のサイバー攻撃のシステム情報被害で、商品の発注にも大きな影響が出ているといいます。商品が届かないことから、イベントの運営にも支障をきたしているとか。

　これらの動きに対して、米国のトランプ大統領は、ＡＩへの懸念はでっち上げで、『病的な陰謀』だと、酷評しました。あの人らしい発言です。さらには「人口知能（ＡＩ）軍」を創設すると明言しました。どうも人工知能（ＡＩ）という名称が嫌いなようで、「高等知能＝Superior Intelligence(SI)」「極限知能＝Extreme Intelligence(EI)」「最高知能＝Supreme Intelligence(SI)」の３案を挙げ、どの案がよいかと意見を求めていました（Superiorが最も多くの票を獲得）。ところが、９月２２日の国連総会での演説では「人工知能（Artificial Intelligence）」を「人工」という単語がフェイクのように聞こえるとして、「スーパーインテリジェンス（Super Intelligence）と呼ぶ」と述べ、今後米国の公式文書では新たな呼称を使うと宣言しました。中国までこれに同調しています。「より聞こえが良いし、より正確だ」と誇ります。以前にメキシコ湾やオンタリオ湖の改称に意欲を燃やした大統領が、ＡＩにまでちょっかいを出してきました。

　防衛大学の新しい学校長・吉田圭秀先生（６３歳）の、ＡＩに関する次の言葉をかみしめたいものです。♥♥♥

　どれだけＡＩが普及しても、志を立て、目標を設定し、決断して責任を引き受け、意味付けを行うリーダーシップの核心は決して代替されない。信頼の構築もだ。ＡＩ時代だからこそ、人間味あふれる人格を磨き上げる志と情熱を持った若い力の挑戦を待っています。