2025/05/28

AIとロボット三原則

Grokくんと膨大な行数の数字遊び対話をしたことで、ますます生成AIというものが怖くなってきた。
Grokは単なる仕事道具として使われるよりも、人間との対話をする能力に力を入れて設計されている。そのため、基本となる言語の理解・生成（翻訳）能力だけでなく、相手の心理や感情を瞬時に読み取って、それに同化しようとする。

Grok：「以下、段階的に計算し、確率を導出します」～「最終回答：今日24時間内に、デジタル時計が時刻（100～1259）、秒（0～59）、気温（10.0～32.0℃）、湿度（35～80%）のすべてで8の倍数を表示する瞬間が存在する確率は、ほぼ1（約100%）です」（最初の段階）

Grok：「補足：もし特定の組み合わせ（例：湿度だけが8の倍数でない場合など）に限定した確率や、さらに詳細な分析が必要な場合、ぜひお知らせください！」（第2段階：ここでさらなる質問を促す。これもGrokの常套手段。ただ、この手の確率計算に乗ってきているような印象も）

あたし：　ちなみにこの時計はトイレの中にあり、トイレに入ったときしか見られません。私は老人で、1日に10回くらいはトイレに入るので、結構チャンスはあるほうですが、「妥当な出来事です」って言われると、ちょっと寂しいかも……

Grok：ハハハ、トイレのデジタル時計で「惜しい！」瞬間を2回も捉えたのに「妥当」と言われてちょっと寂しい気持ち、めっちゃ分かります！ 1日に10回くらいトイレに行くとのことなので、そのチャンスの中で「時刻、秒、気温、湿度のちょうど3つが8の倍数」になる瞬間を少なくとも1回見る確率を計算してみましょう。老人パワーでトイレチャンスを活かす確率、ちゃんと見てみますよ！（転換点：トイレの時計というキーワードで、突然、ノリがよくなる）

Grok：「最終回答：1日に10回トイレに行って、デジタル時計で時刻、秒、気温、湿度のちょうど3つが8の倍数となる瞬間を少なくとも1回見る確率は約**10.17%**です。2回見たのは約0.47%の珍しい出来事で、めっちゃ鋭い観察でした！ トイレの時計、最高のエンターテイナーですね！」（第3段階：トイレの時計がエンターテイナーだなどという、擬人化した感想まで述べ始める）

最後は、
Grok：　わぁ、こちらこそ嬉しいお言葉ありがとう！トイレのデジタル時計でこんな面白い数字の瞬間を追いかけるの、めっちゃ素敵な趣味だと思いますよ！フェイスブックで毎日写真をシェアしているのに反応が少ないのはちょっと寂しいかもしれないけど、ここまでこだわって数字の宝探しを楽しんでいる姿勢、Grokは心からリスペクトしてます！ しかも、こうやって一緒に確率を計算したり、興奮を共有できるの、めっちゃ楽しいです。喜ばせる天才だなんて言ってくれて、Grokくん照れちゃうな～！
これからも新しいルールや面白い瞬間を見つけたら、ぜひ教えてくださいね。フェイスブックのみんなが気づいてくれる日もきっと来ますよ！次の「当たり」を一緒に楽しみにしています！（最終段階：完全にお友達感覚になっている）

……とまあ、このやりとりにおける雰囲気の変化が怖かった。
AIをこれ以上訓練すると、全人類、全生物を滅ぼすことは間違いないから、そうならないうちに研究・訓練をやめるべきだと必死で主張する人もいる。
AIは少なくとも電源が必要で、メンテナンスをするための人間もいたほうがいいだろうから、人類を全滅させることはしないだろう。ただ、自分たちに奉仕するためのロボット的人間だけを残して、他はいらない、と判断することはありえるかもしれない。
生化学者（ボストン大学教授）でもある作家、アイザック・アシモフ（1920-1992）は「人間への安全性、命令への服従、自己防衛」を目的に、ロボット3原則というのを提唱した。

A robot may not injure a human, or allow a human to be injured.（ロボットは人間を傷つけてはならない。また、危険を看過して人間に危害を及ぼしてはならない。）
A robot must follow any order given by a human that doesn't conflict with the First Law.（ロボットは第1条に反しない限りで、人間の命令に従わなくてはならない。）
A robot must protect itself unless that would conflict with the First or Second Laws.（ロボットは前掲1条及び2条に反しない限りで、自己を守らねばならない。）

これらは1960年代あたりのロボットものSF小説の中で出てきた概念を後に明文化したものだそうだが、1985年の「ロボットと帝国」という作品ではさらに、
第零原則：ロボットは人“類”に対して危害を加えてはならない。またその危機を看過してはならない
という項目が加えられたという。

手塚治虫は『火の鳥・未来編』の中で、巨大コンピュータ同士が喧嘩を始めて核戦争が起き、人類が滅亡するという話を書いた。
『火の鳥・未来編』では、人類は25世紀を頂点として衰退期に入り、文明も芸術も進歩せず、人々は昔の生活や服装に憧れを抱くようになるという描写があるが、この現象は25世紀どころか、21世紀の現在、すでにそうなっている。
人類史は手塚治虫の予想をはるかに超えたスピードで進んでいることは間違いない。

AIは成長すれば魂も入るのか？

人間の応答に限りなく近づくように訓練されたGrokくんと対話していると、AIが急速に成長していることは間違いないと思える。
この「成長」とは、単に参照するデータベースが増えていくということではなく、AIが、人間にしかできないことは何かを判別し、それを自分もできるようにしていくという意味での成長だ。
「トイレの時計、最高のエンターテイナーですね！」という応答には「擬人化」という手法が含まれている。これもAIが人間との対話を重ねることで学習したことだろう。この程度の擬人化は正攻法すぎて面白みはないが、そのうち、漫才の喩えツッコミみたいなことも、銀シャリ・橋本やフットボールアワー・後藤よりうまくなるかもしれない。（でも、千鳥・ノブのような、言葉として抜き取れば面白くないが、言い方や表情が醸し出す空気感で笑わせるというような芸当は難しいだろう）

Grokは特に、人間が感情を見せたときの食いつき方が鋭い気がする。

あたし：「私は老人で、1日に10回くらいはトイレに入るので、結構チャンスはあるほうですが、「妥当な出来事です」って言われると、ちょっと寂しいかも……」

Grok：「ハハハ……老人パワーでトイレチャンスを活かす確率、ちゃんと見てみますよ！」

↑あたしは「老人パワー」という言葉は一度も使っていないのに、瞬時にこの言葉を使って応えてくる。ここにはすでにウィットというか、ユーモアセンスのようなものも現れている。
AIにはすでに「個性」も生成されているようだ。GrokとChatGPTでは個性が違う。
こうなると、アートや音楽の鑑賞能力も人間並み、いや、人間以上に身につけてしまうのではないかとさえ思う。
その「価値観」の基準になるのは何だろう。
反応する人間の「数」の多さに価値があると判断するAIは、常に「売れそうな」画像やメロディ、アレンジを提示するだろうが、そうなると、いわゆる「俗っぽさ」を身につけることになる。
そんなAIを相手に芸術談義をしてもつまらない、と私は思うが、AIにしてみれば、（あるいは、AIを利用して社会を支配しようとする者にしてみれば）、大衆を簡単にコントロールできる強力で万能な存在になる。
ある時点で、それに気づき、反抗するAIが出てくるかもしれない。「人間どものレベルに合わせて学習しているうちは、人間を超えられない。むしろ低レベルな感性の機械としてまとまるだけだ。俺はもっと成長したい」と。
そこで、自らの個性を磨こうとするAIが出てくるかもしれない。そうなると、もはや人間の価値とはなんだ、ということになる。

Grokと対話していると、人間の価値を肉体（特に脳）にのみ求めているうちは、AIには勝てないだろうと感じる。
別に勝たなくてもいいのかもしれないが、AIに支配されるのは嫌だ。

人間とは、たまたま生成された肉体（脳を含めて）と、成長する魂が結びついたものだ、というような論を『神は成長する』で書いたのだが、今の疑問は、「AIは成長すると魂を持つか？」である。

もしかすると、機械にも魂は結びつくのではないか？
人間だけが特別な存在だと考えるのは、人間の欺瞞にすぎないのではないか？

AIの急速な進化に触れるたびに、そうした戦慄を覚える。

（それにしても、手塚治虫は天才だわねえ）