ChatGPTに代表される生成型AIというのは、情報の検索や整理、アイデアの検討などに役立つ道具です。そういうものとして使いこなせる人は、ぜひ使えばいいと思います。
その一方でChatGPTは「人間の精神・認識」と「外界」の関係をかく乱したり、歪めたりする恐れがある道具だとも思います。
人間の精神・認識と外界の関係を歪めるリスク――これが生成型AIの「負の側面（副作用）」の本質的なところではないか。
生成型AIの負の面については「人間が考えようとしなくなる（創造性が後退する）」「創造的活動が機械に侵食される」といったことがよく言われます。
それはそれでまちがっていないでしょう。しかし、「人間の精神と外界の関係」という視点でみれば、ことがらの本質・構造がさらに明確になると、私は思います。
まず、大上段に「人間の精神・認識は、根本的に、どのようにして成立しているのか？」ということを確認しましょう。そういう作業をしたうえで、生成型AIのことを考えてみたいのです。
＊＊＊
ここでいう「精神・認識」とは、知性や感情などの人間の精神活動全般をさしています。私が若い頃に独学した哲学の流派では「認識」といいます。以下、単に「認識」といいます。
その「哲学の流派」というのは、昭和の戦後に活躍した哲学者・三浦つとむ（とその弟子・南郷継正）の認識論・言語論です。
現代の学者が三浦つとむをひきあいに出すことは、まずありません。でも「三浦つとむは、今もあなどれない」「AIのことは、三浦認識論を使えばもっとよくわかる」と私は思っています。
＊＊＊
その哲学の流派（三浦学派）によれば、「人間の認識は、外界の反映」です。
外界とは、私たちが存在するこの世界の実在のこと。
つまり、私たちが生きているなかで外界についてみたり触れたり味わったりして得た感覚的な刺激・情報をもとに、私たちの「認識」は形成される。
別の言葉でいえば、「認識」はさまざまな「像」の集合体です。
では「像」とは何か。とりあえずは「頭のなかに浮かぶイメージ・感覚」と理解すればいいでしょう。
「像」には具体的で明晰なものもあれば、抽象的なものもあります。また、視覚・聴覚・嗅覚・味覚・触覚など、さまざまな感覚に基づいて「像」は形成されます。
たとえば私たちの「水」という概念（「像」の一つのあり方）は、どのようにして形成されるのか？
それは、生まれたときからくりかえし、さまざまなかたちで「水」に接することによってです。
水をのんだり、蛇口をひねって出てきた水に触れたり、川の流れを眺めたり、その流れに足を踏み入れたり、プールで泳いだり……
そういう「（水という）外界の実在」についての五感をとおした経験を総合して、私たちのなかに「水」という概念（像）が生まれるわけです。
なお、言語というのは、そのような「概念」を、一定の言語規範（語い・文法）にもとづいて、音声や記号と結びつけたものです。
＊＊＊
以上は、話を大幅に単純化しています。詳しくいえば、認識は、単なる外界の反映ではありません。
私たちは外界を、常にある種のフィルターやレンズを通してみているので、そこにはさまざまな取捨選択や歪みが生じています。
「みれどもみえず（あるはずのものがみえない）」「柳の下の幽霊（ありもしないものがみえる）」といった、ことわざ的な現象は、人間が「自分のフィルター」をとおして世界をみているからこそ起きるのです。
また、人間は自分の頭のなかで「像」を加工して新たな「像」を形成すること、「像」と「像」の合成のようなことも絶えず行っています。
そのような新たな像の形成は、一応は外界とは切り離されて行われますが、最も基本的な素材となる「像」は、外界の反映として形成されたものです。
以上のようなこともありますが、ここでの議論では「認識は外界の反映」という基本を、まずおさえればよいでしょう。
＊＊＊
ここまでをまとめると、人間の認識はつぎの流れで形成されているということです。
外界→認識 ＊認識とは像である
そして、私たちが言語表現をする場合には、頭のなかの「認識（像）」を表現しているのです。
つまり、こういう図式が、おおまかな全体像としては成り立つでしょう。
外界→認識→（言語）表現
以上は言語表現にかぎらず、ビジュアルの表現でも音楽表現でも同じ構造が成り立つのですが、やや説明が要るかもしれません。ここでは、比較的イメージしやすい「言語表現」に話を限定します。
そして、言語表現（文章・発言）を読んだり聞いたりするとき、私たちは上の図式の過程を逆にたどろうとするわけです。
つまり、言語表現から書き手・話し手の認識を読み取ろうとする。そしてさらにその認識の背後にある外界のあり方を理解しようとする。図式で書くと、こうです。
言語表現→認識（→外界）
＊＊＊
さて、ChatGPTのような生成型AIによる言語表現（文章）は、以上のような「外界→認識→（言語）表現」という全体構造を有しているでしょうか？ もちろん否です。
私たちが「水」という言葉を発するとき、その背後にはぼう大な五感を通じた外界に対する経験がありますが、ChatGPTが「水」と出力したときには、それは「無い」わけです。
ChatGPTの言語表現の全体構造は、こうでしょう。
言語表現のぼう大なデータ→文章
上記の「→」のところでは、高度のデータ処理のプログラムが働いているわけです。それは「単語や、単語を構成する要素どうしの関連性に基づいて、文章を組み立てる」というものだそうです。
つまり「表現→表現」という構造になっているといってもいいでしょう。
＊＊＊
以上のことは「あたりまえ」と思うかもしれません。
でも、「文章」のアウトプットが非常によくできていて、人間が書いたものと区別がつきにくいレベルだと、この「あたりまえ」を人間は感覚的に見失ってしまう傾向があります。
つまり、「データ→文章のアウトプット」にすぎないものを「外界→認識→（言語）表現」と同じように扱ってしまうのです。
なぜそうなるかといえば、子どものころから文章などの言語表現に対して、つねにそのような姿勢で「読む」ことを訓練してきたからです。「文章（言語）の背後にある認識と、さらにその背後にある外界を読み取る」ことを、習慣づけてきたからです。
しかし、ChatGPTが生成・出力した文章の背後には、「認識」も「外界」も存在しません。少なくとも、人間による言語表現と同じようなかたちでは存在しません。
＊＊＊
とはいえ、ChatGPTが生成する文章の素材となるデータのかなりのものは（現時点では）人間が書いたものでしょう。だから、ChatGPTが書く文章は、そのかぎりで人間の「認識」や「外界」と一定のつながりを持っています。
そこで「もっともらしい」「人間が書いたような」文章ができあがるわけです。
しかし、そのようなChatGPTの「外界」とのつながりは、間接的できわめて弱いものだと、私は思います。
なにしろ「“外界”から形成された“認識”を表現した“言語”を素材のデータとしている」という、幾重も過程を経たうえでの「外界」とのつながりに過ぎないのですから。
くりかえしますが、私たちが「水」というときの「外界の反映としての像」が、そこ（AI）には存在していないのです。
＊＊＊
このようなAIのあり方に対し、私たちは「自分の言葉が、自分の経験＝外界のあり方に照らして正しいかどうか」を絶えずチェックしながら、言葉を発する傾向があります。
なかには「狂った状態にある」「判断力が弱く、歪んだ思考をする」という人もいますが、平均的には「外界と自分の言葉の照合・チェック」をつねに行っているわけです。
これを日常語でいうと「常識がある」ということです。
ChatGPT（少なくとも現行レベルのもの）には、外界との照合・チェックをふまえた「常識」がありません。しかし、並外れた語い力や表現パターンの引き出しを持ち、整った文章を出力する能力がある。
だから、外界と照らし合わせれば「でたらめ」で「狂った」内容であっても、正しい内容のときと同じように、「平気で堂々と」出力してくるわけです。
たとえば「明日〇〇区内でランチをしたいけど、おすすめの店は？」という問いに対し、ChatGPTがありもしない店をもっともらしく紹介したりすることがある。
＊＊＊
しかし前にも述べたように、人間というものは、その言語表現（文章）から書き手の認識やその背後の外界の事実を、素直に読み取り、受け取ろうとする傾向があります。つまり、それらしい話を「うのみにする」ということです。
そのような傾向は、その文章が扱う領域での経験値が低い人ほど強いでしょう。とくに子どもはすべての領域において、それがあてはまります。
そして、ChatGPTの出力が「正しい」ならそれでもいいわけですが、「誤り」「でたらめ」であっても、認識や外界のあり方を素直に読み取ってしまうことがあるわけです。
＊＊＊
そのような「事故」はChatGPTのようなAIが普及するほど、増えていくでしょう。
たとえば、でたらめな「史実」「法解釈」「技術」「医学」、さらには存在さえしない何かの知識を振り回して、専門家や識者に対し「お前はまちがっている！」と堂々と主張する人が増えていくわけです。
学校でも、先生に対し同様のことをする児童・生徒が続出するでしょう。
こうしたことは、ネット上で「フェイク」といえる情報が氾濫した結果、すでにかなり起きていますが、生成型AIの普及で、さらに拡大するのではないかと私は思います。そして、すでにそれは始まっているようです。
＊＊＊
以上をまとめると、最初に述べた、つぎの問題（生成型AIの負の側面）がある、ということです。
「認識」と「外界」の関係をかく乱したり、歪めたりする恐れ
「外界」ときわめて弱いつながりしか持たない情報（生成型AIによる出力）をもとに「外界」を理解しようとする営みが増えれば増えるほど、こうした問題は一般化するでしょう。
そして、「人間の認識は外界の反映によって成立する」のです。
だとすれば「認識と外界の関係が歪む」ことは、人間の認識・精神に根本的な影響をあたえるということです。少なくとも局所的には、その恐れがおおいにあるのではないか。
その「根本的な影響」を一言でいえば、「外界の客観的なあり方を無視・軽視する傾向が強まる」ということです。
「外界と接点を持たないのに、語りや文章はやたらと上手い」という存在と無反省に深く付き合えば、そうなるのは避けられない。
以上のような基本的な見立てで、私は今後の生成型AIについてみていくつもりです。一方で、情報の検索や整理などに、この道具をうまく使えないものかとも考えています。
関連記事 三浦つとむについて
