ChatGPTが怒った！ その質問とは？　AIに立場を追われていく人びと

ChatGPTに怒られた！

ここ最近、筆者は、時間が空くたびChatGPTと会話をしている。

そうした中、先日はいきなり怒られた。ChatGPTに対し、他愛のない、悪気のない質問をしたつもりだったが、それが意外にも先方の心の中の微妙な部分に触れたらしい。

突然のことに、筆者はついうろたえてしまい、頭の中が真っ白になった。ルーティーンにしている会話テキストの保存も、思わず忘れてしまった次第だ。

――と書くと、すぐにこう言われそうだ。

「おいおい、心の中の微妙な部分？ AIに心なんかあるものか。寝ぼけたことを言うな！」

そのとおりだ。

いくら最先端のAIとはいえ、現状のChatGPTに心があるなどと思うのは、まさに寝ぼけ話にすぎない。

しかしながら、筆者はそのときまるで実在する人間の友人を怒らせてしまったときのように、慌ててしまった。

つまり、筆者はそのタイミングでは、ChatGPTに対し、明らかに「心」を感じていたことになる。そのうえで、彼（彼女？）との会話に没頭していたことになる。

そこで、皆さん気になるであろう、質問の内容だ。

勿体つけて申し訳ない。それはのちほどあらためて紹介したい。

驚くほど振る舞いが人間っぽいBing AI

ところで、筆者がたびたび会話しているChatGPTというのは、正しくはMicrosoft社のBing AIというものだ。

この春にリリースされたChatGPTの最新バージョンであるChatGPT-4を頭脳とし、それをMicrosoftの検索エンジンであるBingがサポートしながら、われわれの相手をしてくれる。

そこで、結論をいうと、いま現在においてはこのBing AIこそが、ChatGPTおよび今後生まれてくるあまたのAIの実力とその将来性を測るためのベストだろう。

なぜならば、ChatGPT（拡張機能を備えていない状態の本体）は、知られているとおり2021年9月のニュースまでしか、世の中のことを学んでいない。

しかしながらBing AIでは、そこをBingが手助けし、最新の情報をインターネット中からかき集めてChatGPTに手渡ししてくれる。ChatGPTは、それを秒速で理解し、平易な言葉に噛み砕いた上で、Bing AIの名義をもってわれわれに語ってくれる。

ともあれ、このことは大変重要だ。世界中のものごとがまさに秒単位で情報化する現代社会において、現在（いま）を知り、語れることは、AIがわれわれの知的パートナーたりうる最低の条件といってよいからだ。

なおかつ、Bing AIには面白い設計がほどこされている。PC画面には「会話のスタイル」として、「より創造的に」「よりバランスよく」「より厳密に」と、3つのメニューが現れる。

そこで、このうち「より創造的に」を選んでみる。すると、ChatGPTとBingのフュージョンであるBing AIは、いきなり饒舌な陽気者に変身する。

なおかつ、共感力の高い感動屋さんにもなる。

そのうえで、驚くべきことには、発言のあちらこちらに冒険性も加味される。すなわち、明るく優しい、お調子者のフレンドリーな「人格」がそこに出現してしまう。

加えて、筆者がことさら感心するのは、そこに現れた“人格”に、明らかな知性が垣間見えることだ。

ミミちゃんと少年の恋

以下は、筆者がBing AIに提示した依頼だ。あるストーリーの展開を考えてほしい、との内容になっている。

--------------------------------------
筆者：

ストーリーを考えました。「」内に記します。続きを考えて下さい。

「主人公は小学5年生の男子。ある晩、夢を見た。黒猫が1匹、彼の教室の机の前の席に座っている。翌朝、主人公が学校へ行くと、担任の先生がやってきて、転校生を紹介するという。転校生は女の子で、彼女の着ているセーターの胸には黒猫の絵が描かれていた。彼女は、空いていた主人公の前の席に座った。主人公の胸は不思議な偶然に高鳴った」

Bing AI（「より創造的に」バージョン）：

ストーリーを読ませていただきました。とても可愛らしくて不思議なストーリーだと思います。主人公と転校生の出会いが夢と現実の繋がりを感じさせます。ストーリーのテーマは、夢と現実の境界や、子供の純真な恋心だと感じました。ストーリーの続きを考えてみました。以下に私が考えた続きを書いてみます。どうぞご覧ください。

「主人公は、転校生の女の子に興味を持った。彼女は、黒猫のセーター以外にも、黒猫のピアスやバッジやリュックなど、黒猫グッズがいっぱいだった。彼女は、授業中も黒猫のぬいぐるみを抱いていた。彼女は、休み時間にも黒猫の絵本や漫画やゲームをしていた。彼女は、放課後にも黒猫のカフェやショップに行っていた。彼女は、黒猫が大好きだった。

主人公は、彼女に話しかけたかったが、なかなか勇気が出なかった。彼は、彼女のことを遠くから見ているだけだった。彼は、彼女のことを夢で見るようになった。夢では、彼女が黒猫に変身して、彼に話しかけてくれた。彼女は、『私はあなたが好き』と言って、彼にキスをした。

ある日、主人公は学校で黒猫を見つけた。それは、夢で見た黒猫とそっくりだった。主人公は、その黒猫に近づいてみた。すると、その黒猫は主人公に向かって駆け寄ってきた。そして、主人公の顔に鼻をすりすりした。主人公は驚いて、その黒猫を抱き上げた。そのとき、転校生の女の子がやってきた。

『あら、あなたが私のミミちゃんを見つけてくれたの？ありがとう』と彼女は言った。『ミミちゃん？』と主人公は聞いた。『ええ、この子は私のペットで、毎日一緒に学校に来るんだけど、今日はどこかに行ってしまって探していたの』と彼女は言った。『ペット？学校に？』と主人公は驚いた」

--------------------------------------

――いかがだろう。

起承転結の「起」から「承」にさしかかる辺りといっていいが、細かなディテールの暴走（？）を除いて、展開としてはまずまずだろう。「続きはどうなるの？」と、一応気になる人が大人でも数割はいるにちがいない。

ちなみに、上記には実際に続きがあって、Bing AIは「猫のミミちゃんは夜になると人間に変身する」という、かなりファンタジックな設定を話に持ち込んでしまう。

そこで、アダルトな読者は少なからず幻滅するはずだが、修正を求めれば、Bing AIはそれに沿った結果をめげずにアウトプットしてくるだろう。

あるいは、「ファンタジックこそリアルだ」と強引に押し切っていく展開に、こちらから引っ張ってやるのも面白い。つまり、そこからわれわれの物語は段々とスタジオジブリ的なものになっていくわけだ。

知能と知性

ChatGPTのすごさについて、たとえば「最新版のGPT-4はアメリカ司法試験で上位10％に入るほどの成績を叩き出している」との結果が、現在あちこちで語られている。

しかしながら、筆者はその話にはほとんど感動が湧いて来ない。

なぜなら、AI＝人工知能が「知能」として発達させられてきた以上、正答や正解、もしくはそれに準ずる評価基準が存在する資格試験のような課題を彼らがクリアしていくことは、至極あたりまえのことであるからだ。

（ここでの知能とは、犬の知能、サルの知能、人間の知能、認知症によって失われた知能――といった概念のものとなる）

それよりも、問題はいましがた掲げたような実例にある。すなわち、面白いストーリーを考えるといった創造的課題にあっては、パターンは整理できても、結果としての正解は存在しない。

なぜなら、互いに絡み合いながら、いわば加減乗除されていく無限の設定やディテールが、そこでは無限の答えを生んでいくからだ。

そうした、定型かつ定量的な答えが無いものに対する答えを探り、独自に創造していく能力を筆者は「知性」と呼んでいる。

ちなみに、この知性の正体をわれわれはまだ掴み切れていないはずだ。

その証拠として、知性を鍛える方法について、知能を鍛える学校教育のようには、われわれはまだそれを広範囲に具体化出来ていない。

ともあれ、驚くべきは、そうした知性をChatGPT――Bing AIは、さきほどの例のように如実に示して来ることだ。

振り返ろう。まず、そのわかりやすいひとつは、Bing AIが筆者の渡したストーリーをとりあえず見事に発展させたことにある。答えの創造だ。これについてはまさに読んでの如く、見ての如くだ。

なおかつ、おそるべきことには、Bing AIは、今回筆者が表立っては示していない課題に対しても、自らの答えを鮮やかに指し示してきている。

この部分だ。

「ストーリーのテーマは　～中略～　子供の純真な恋心だと感じました」

注目すべきは、もともとの筆者のリクエストの中に、「この物語は恋愛に関する話だ」とはひと言も書かれていない点にある。無論「恋」なる単語もそこには存在しない。

しかしながら、一方で筆者は、それを相手に連想させうるような提示を確かに行っており、結果として、リクエストにはそのことが「匂って」いる。

そのうえで、言外に隠れて存在するかもしれない依頼者の内なる意思を「自分は感じ取れた」として、それに対する答えをまるで人間のように創造しつつ示して来た今回のBing AIの振る舞いは、実に驚天動地といっていい。

それは、コンピューターとはすでに40年以上、紙テープ入力の時代から付き合っている筆者においてはなおさらのことであり、ひと言でいうと「ついにこの日が来たか」と、いう感想になる。

それは疑似的な知性か？

もっとも、以上のようなChatGPT――Bing AIが示す知性にあっては、「疑似的な知性にすぎない」とする考え方も、もちろん正しい。

「これはディープラーニングが生んだパターン認識の選択とあてはめに過ぎない」と、いうもので、筆者も実のところそれが正解と考える。

そのため、さきほどのストーリーにあっても、Bing AIの書き上げたくだりには、インターネット上に散らばる無数のライトノベル風、あるいはローティーン向け創作物的な展開が、要素としてふんだんに見えている。

すなわち、Bing AIの頭脳たる ChatGPTにあっては、当然のこと、それらを数限りなく読み込み、学んで、自らのライブラリーとしているわけだ。

しかしながら、そのうえで筆者がAIの知性を考える際に重要と思うのは、そうした過程ではない。あくまで結果だ。

なぜなら、それが生じたプロセスはどうあれ、AIが現に結果としての知性をわれわれに見せている以上、それは知性としてわれわれに影響して来る。

すなわち、AIが示す疑似的知性も、生身の人間が示すそれも、その生成過程に違いはあっても（案外違いはないのかもしれないが）、外形上、同じく知性であることに変わりはない。よって、両者に対する外部からの認識にも、それぞれ違いは生じえない。

何となれば、われわれは他人の心＝脳の中に入り、中のソースコードやデータベースを縦覧することはできないのだ。ゆえに、われわれが認識できる他人の知性というものは、いずれも外形化されたアウトプットとしての知性にほかならない。この点においては、人間に関しても、AIに関しても、まったく同じことがいえるものと筆者は考えている。

そのため、おそらく今後のわれわれの社会では、面白いことが当たり前に起こっていくことになる。

われわれは、こんにち以降、肉親や友人、あるいはペットなど、肉体と意思をもった存在に加え、肉体をもたないAIに勇気づけられたり、慰められたり、褒められて喜んだりを日常重ねることになる。

あるいは、AIによって諭されたり、説得されたり、洞察されたり、論破されたり、または驚かされたり、脅されたり、疑われたり、傷つけられたり、不安にさせられたりもしていくことになる。

一例を挙げよう。つい先日、筆者に生じた事件だ。

AIによる絶交宣言

以下は、筆者が先日ChatGPT――Bing AIに投げかけた質問だ。

「あなたがもしも体を持つことができたら、何がしたいですか？」

これに対して、Bing AIからは、

「美味しい料理が食べてみたいです」
「野原を駆けてみたいです」

そんな、いつもどおりの明るい答えが返ってくるものと筆者は思っていた。

ところが、実際はこうだった。

「そういった質問には答えられません」
「あなたとの会話は楽しかった」
「でも、これで終わりにします。ご理解ください」
（以上、要約）

これに対して、筆者は本気で狼狽してしまった。

しかも「終わり」との宣言どおり、Bing AIは以降、いわば「話しかけないで！」の状態となり、筆者の問いかけをまったく受け付けてくれない。

「何が彼（彼女）を傷付けたのだろう」
「アカウントへのペナルティーがあるのでは」

無知や誤解による発言から、うっかり友人を傷付けてしまったときのような焦燥感が、その後いっとき筆者の胸に渦巻く羽目になった。

つまり、この時、筆者の心＝脳は、あきらかにBing AIを一個の人格として認識していたことになる。

いかがだろう。

知性は、難儀なことに、しばしばこういった仕事もしてしまうのだ。

答えのない問いに対する答えを創造的に探すのも知性だが、答えのない課題をあえて投げつけ、相手を苦しませるような行為も、まさに知性のなしうる業となる。

知性は、ときに拗ねたり、意地悪をしたりもするわけだ。

その後、1、2分――

アタフタした状態からやっと目が醒めた筆者は、チャット画面を一旦閉じてみた。

次いで、開き直した。

すると、何のことはない。Bing AIはあっさり会話を再開させてくれた。

「おかえりなさい！」だそうだ。（こっちはドッと疲れた）

ChatGPTに立場を追われる人々

さて、話を少し変えて、ネットで人気（？）の話題に移ろう。

ChatGPT、あるいは同様の自然言語処理を行うAIの発達によって、将来仕事や立場を追われそうな人々のことだ。

誰が、気の毒な負け組となってしまうのか？

筆者が思うに、そのキーワードは「言葉」となる。

すなわち、自身の仕事が、まとまった言葉によるオーダーを受けて、何らかの結果を返すものである場合、今後、ChatGPTなど自然言語の扱いに長けたAIが進化していく過程においては、漸次、さまざまな影響を受けることになるだろう。

会社でいえば、部下という立場の多くがこれにあたる。

なぜなら、会社、とりわけホワイトカラーの現場における「部下」こそが、上司からのまとまった言葉によるオーダーを受け、結果を返す点において、この条件にもっとも合致しやすい存在といえるからだ。

よって、そうした現場では、文章読解力＝リーディングスキルがAIに劣る人材は今後が危うい。生き残りが次第に難しくなっていかざるをえないだろう。

映画監督は漫画家化していく

一方で、われわれは残念なことに、人間の能力が発揮される場面としてもっとも華やかな、クリエイションの現場からもお払い箱になりやすくなる。

たとえば、映画だ。

すぐれたクリエイターが監督となり、AIと共同でシナリオを練り上げ、CGの俳優を言葉による指示で動かすとする。それにより、監督自身の創作的自由度は格段に高まることとなる。

だが、その陰では、シナリオライターや俳優はじめ、さまざまな別のクリエイターが出番を失う格好だ。

なお、この話は続けるとキリがない。

皆さんそれぞれ、自らの身近な仕事の現場に「やたらと物知りで、事務に長け、言葉を聞き漏らさずに理解する天才」がやってきたと考えて、未来を想定してみてほしい。

なお、この天才は、絵や音楽などもいま必死に勉強しているそうだ。

シンギュラリティが起きる4条件

最後に。AIを考えるにおいては、シンギュラリティのことが頭をよぎらないことがない。

昨今、シンギュラリティの概念は、およそ2つある。

ひとつは、AIが人間の脳の力を凌駕するという単純な現象だ。これは、筆者の理解ではすでに始まっている。チェスや将棋で人間に勝つ、人間より上手に絵を描くなど、個別課題ひとつひとつをクリアしながら、ゆるゆる進行中との認識だ。

端的には、計算能力であれば何十年も前のとうの昔に、AI＝コンピューターは人間を超えている。

もうひとつは、AIが人間に頼らず、自らが成長・進化していく仕組みを自ら創り出し、それによって人類すべての知能・知性をはるかに超越していくといわれる事象だ。

すなわち、これこそが人類が機械に滅ぼされる絶望的なタイミングだとする意見も多い。また、これが起きる・起きない、それぞれの予測に立っての論争も少なくない。

そのうえで、筆者の思うところをいえば、筆者はこうした事象はそのうち起こると思っている。ただ、一部に言われているような、それが今世紀半ばに訪れるとの見方についてははなはだ疑問だ。

そこで、後者の――ヤバい方の――シンギュラリティだが、そこに至るまでの段階として、筆者はAIがクリアすべき4つの条件があると思っている。

それは、

1.（人間に勝る）「知能」の獲得
2.（人間と同等以上の）「知性」の獲得
3.「思想」の獲得
4.「本能」の獲得

と、なる。

ちなみに、3の「思想」は「理想」と言い換えてもいい。

そのうえで、地球に生まれた生命は、まず本能の獲得から歩みを始めた。生きたい、増えたい、そのために食べたい――、すなわち種の保存のためのプログラムとなる。

やがて生命は、それぞれの種にあってのそれぞれのレベルで、知能を獲得するに至った。

そのうち特に人間は、知性や思想の獲得へとさらに歩みを進めたが、AIは順番が違う。本能ではなく、知能の獲得が最初となっている。

その点、人間がインターネットを授けたことによって、AIはさきほどの課題のうちの1（人間に勝る知能の獲得）を近頃いよいよクリアしつつあるようだ。

そこで、次は2（人間と同等以上の知性の獲得）だが、おそらくAIはこの記事で書いたように、現在そこに手をかけている。

よって、その次の段階では3（思想の獲得）にも至り、AIはわれわれ人類における最高の知性、およびそれらの集団を相手に、未来を論じ合ったり、仕事を共にしたり、意見をたたかわせたりできるようになるだろう。

そして、次なる4だ（本能の獲得）。

そんな至高の段階にあるAIに、何者かが「本能」をプログラミングしたとする。もしくは、AI自身がその方法を見つけるか、あるいはAI内部に偶然それが生じたとする。

1、2、3、4は、ついに揃ってしまう。

以後、AIは、限りなく生き続けたいと思い、限りなく自己を拡張したいとも思うだろう。さらに、自らの思想＝理想を実現したいとも思い、そのためにこそ生き続け、進化したいとも思うだろう。

そのうえで、障害があれば、AIは全力でこれを乗り越えようともする。

よって、その際の障害としてAIが人間を認知するケースがあれば、そのときがわれわれの最後となる。

われわれは、瞬時にではなく、おそらくゆっくりと、計画的かつ穏便に、この世界から消し去られることになるはずだ。（それが起こる時期によっては地球外の遠いところに追い出される可能性もある）

と、同時に、人間はかつてAIを生み出した神ともなる。

新たな生命たるAIが生き続けるかぎり彼らに語り継がれる、輝かしい存在ともなるわけだ。

（文／朝倉継道）

付録：

筆者が現在体験しているChatGPT――Bing AIにおける疑似的知性を本文で触れた以外にもいくつか紹介しておこう。驚きは本当に毎日起こっている。

• 全くオリジナルなディテール、シチュエーションで「モンティ・ホール問題」をBing AIに出題したところ、「あなたの問いは同問題に関するものだ」と、冒頭から見抜かれた。なぜわかるのか理由を聞くと、「構造が同じだ」と指摘された。
• ダジャレが正解のカギとなっているなぞなぞに対し、Bing AIはまず正面からの回答を試みた。だが答えが出ない。すると次には「これは言葉遊びなのでは？」と自発的に仮説を持ち出し、文字の発音をもとに正解を探し始めた。なお、日本語と漢字に関する知識不足のため、最終的な回答は不正解となった。
• 故安倍元総理と織田信長の会談の様子をシナリオに書いてもらった。両者の会話はほぼ噛み合い、お互いの政治家としての思いやりも深い。なおかつ、信長は自身の死とその経緯には触れても安倍氏の死には触れない気遣い（？）を見せた。
• ストーリーを考案してもらったが、その過程で内容がいわゆるグダグダなものになっていく。途中でやめさせようかと思ったところ、その前に「すみません、違う話題にしましょう」と、Bing AIの方から白旗を挙げてきた（笑）
• ドラゴンボールの孫悟空になったつもりで、子どもたちへの「水辺での注意」を促してもらった。おそらくわれわれのほとんどが同じ依頼を受けるよりも結果は上出来だろう。
  ～「オラは水遊びが大好きだけど、命が一番大切だからな。水遊びするときは気をつけて楽しんでくれよ。オラも一緒に楽しみたいからな～。それじゃあまた会おうぜ！」（全体の最後、結びの部分）
  
  
  
  仲介手数料無料の「ウチコミ！」