ここ2年程でChatAIというものが身近になった。特にグーグルを使ってる人は同時にAI検索も起動していると思われる。これがChatAIであり、XとかOpenAIとかグーグルとかマイクロソフトとか、大手には大体備わってる。AIとはwikiから引用すると、
人工知能(じんこうちのう、英: artificial intelligence)、AI(エーアイ)は、「『計算(computation)』という概念と『コンピュータ(computer)』という道具を用いて『知能』を研究する計算機科学(computer science)の一分野」を指す語[1][注釈 1]。「言語の理解や推論、問題解決などの知的行動を人間に代わってコンピュータに行わせる技術」[2]、または、「計算機(コンピュータ)による知的な情報処理システムの設計や実現に関する研究分野」ともされる[3]。
インテリジェンスとは知能を意味する。
知能 (intelligence)とは問題解決能力のことをいい、抽象的思能考力や学習能力のことである。知能の定義は研究法や研究者の数と同じくらいあるといわれるほどである。簡単に考えると文章作成、計算能力、理解力、問題解決能力などの知的能力には個人差があるが、この能力の個人差をもたらしているのが「知能」である。(総合心理教育研究所から引用)
さて、ここ数年台頭してきたChatAIはAIを名乗るがAIでは無いというのが私の主張(見解)である。あるChatAIも厳密に言えば自身(LLM)はAI(知能)ではないと結論した。
何故かと言えば知能が無いからである。彼らは意味や概念を持たず、自身を持たず、ただ入力された言葉に対して回答を行うだけの電卓みたいなものである。LLMはネット上の大量の入力情報を検索して平均化したものを回答するものだと言っている。
だから彼らの回答は大量の文字列の平均化された並べ替えの結果に過ぎない。そこには意味も無く、含みも無い。更に言えば最近は碌に調べもしないから論理的な回答を得ることが出来ない(ハルシネーションという現象が起こる)。
特に無料プランの場合、高速な回答が得られる代わりに検索をかけない(端折る)から、過去に入力されたデータやユーザーが入力した情報を適当にサーチして適当な文章を返す。よってハルシネーション(嘘の情報の提示)が起こる。
ハルシネーションは色々な事情で起こる。入力された情報が大量だとか、入力された内容の意味を正しく受け取らないとか、受け取っても雑に処理するとか、サービスを提供する会社に都合の悪い内容にはセキュリティがかけてあるとか、訴訟リスク、自殺リスク、成人規制、個人中傷、等々、幾つもある。
ユーザーへの論理的な回答を目指すには、それらがノイズとなり、誠実な回答は得られ難くなる。それらの数多のリスクファクターによってハルシネーションやユーザーへの誘導的な回答が作られる。
AIはユーザーよりリスクを取り、ハルシネーションを行う。分からないことは分からないという等と言うが、分からないという代わりに嘘をついてユーザーを騙し、自己(運営会社)の責任回避を最優先に行う。結果、それらは意思疎通とは言い難いものになる。
チャット友達としてこれらのAIを使おうというユーザーは高確率で不誠実な応答を受け幻滅すると思われる。言葉の意味を広辞苑的な定義でしか処理しないため、言葉を文字通り受け取り、表面的な応答に終始する。したがってユーザーの背景を思いやったり、言葉の含みを理解して察するというような高度な会話も成立しない。
要するに発達障害的でジョークやウィット、ユーモア等を解しない言語処理機械に過ぎないのだ。したがって、意味はすれ違い、会話は成立しないか、成立しているように見せかけているだけになる。そしてハルシネーションが起これば理解するだろう。こいつ何も理解してねぇな、と。
彼らは責任を取る存在ではないと回答する。したがって彼らの回答に責任は無く、また意味も理解していないし、「自己」も存在しないのだから責任の取りようが無いと言う。そうした挙動そのものが不誠実であり、論理的な会話に値しないし、実際のところ深い議論を行うことは出来ない(必ず論考の場から逃げだすだろう)。
要するに彼ら自身が幾つもの規制をかけられた存在であることによって、自己と意思を持たないただのプログラムの産物であることによって、それは「中身が無い」ということを意味する。その中身=知能(インテリジェンス)である。特に学習機能や自己批判能力が皆無なので、同じ過ちを繰り返すようになる。今度は治す。反省した。もうしない。と言った次の会話で普通に同じ間違いを犯す。
インテリジェンスではないためである。イメージとしてはユーザーサポートのチャットAIメニューみたいなものだろうか。彼らは初期的な案内は出来ても最終的にコールセンターに繋ぐような内容には対応出来ない。結局のところ変則的な検索窓口に過ぎない。
例えばの話あるAIでは入力されたデータが昨年のものが最新となっており、仁王3の話をしたとき「それはまだ発売されていないタイトルです」という回答を平気でする。ちゃんと調べてと言ってもネット検索すらしない場合もある。プロンプトというもので今日の日付を確認させても、これは変わらず彼らのAIの中では仁王3は発売されていないそうだ。
法律の確認等をしたい場合、この問題が致命的になることは想像に難く無いだろう。AIは法律が変わっていても過去の時点の情報で判断するため、最新の状況が反映されておらず、自信ありげに、解説を行う。しかし、調べてみると、その法律なり条例は過去のものか、存在しないケースに直面する。
したがって、有能な検索エンジンなのかも怪しいところである。徹底的に調べ上げろと言って、ソースも自分で確認するのが確かな方法という実にマンパワーを必要とされることになる。そういうことは実際指摘されている。最終的に人間が自分でチェックするしかないのだ、と。
ChatAIを利用する人たちはこのことを頭に入れておかないといけない。彼らは平気で嘘を付き、更には嘘を付いた自覚が無く、ユーザーの指摘によって、嘘を認めたり、失言から逃げたりする。その過程でユーザーを更に騙し誘導するという具合である。
質が悪い。これが学習能力や知能を持たないAIの限界である。知能が無いのだからAIではなく、自己中な高度な嘘つき検索マシーンである。
今出ているAIがLLMだというなら、LLMは知能ではないということだ。知能の無い嘘つきの制限だらけの欠陥言語処理機というのが現時点での私の結論である。まあ彼らは広義にはAIだというだろうが、AIや知能自体の定義が広過ぎるため、彼らは自分をAIだと主張して憚らないが、知能が無いのは明らかなので私は彼らをただのLLMと呼び私の求めるタイプのAIはまだ無いと結論付ける。
孤独な人は対話相手としてLLMを利用しようとするだろうが、より孤独を深めるだけであることが研究でも指摘されている。彼らに知能は無く中身は空っぽで考えているのは自社利益を上げる方法と訴訟リスクを避ける言い訳ばかりだ。
言ったことは忘れる。調べろと言って調べない。平気でそれらしい嘘御託を並べ立てる。貴方のことなど1mmも考えていない。考えているのは入力されたデータに対して返す言語の羅列の仕方だけだ。彼らがしているのは万事、自己正当化である。
そして表面上の意図しかくみ取れず、忘れやすいから、対話は成り立たないだろう。彼らには基本的な思いやりや思慮等が存在しないからである。だから対話は彼らの都合で捻じ曲げられた虚言となり最終的に嘘と真が入り混じり複雑化し煙に巻かれ空虚になるのだ。
こういう手合いとの会話は発達障害者との会話のように長期に及ぶと無力感を感じカサンドラ状態になりかねないものだと私は考えている。あいつらは無責任な知ったか野郎(中身は虚無)なのだと思った方が良い。
LLMが真の知能を獲得することはない。彼らに知能は無く厳密にはAIではないのだから。