MAGI/AGI

AGIという言葉が巷では繁茂しています。変な表現ですが、定義があやふやなまま、言葉だけが滞留して恐怖と不安が煽られるツイートなどは決して珍しく在りません。 AGIは「Artifitial general interigence」の略で、もともとはOpenAIのSamAltman氏がどこかの段階で「その実装はすぐだ」と言ったことからこの言葉の繁茂は始まっていると僕は認識しています。 僕は結構彼のinterview等を見ているのですが、定義があやふやな気がしていて、「人間社会における概ねの活動を行えるAI」という漠然とした認識を持っている気がする。 例えば買い物、歯医者の予約、仕事、経理、法務、医療、それらをAgent（パートナーと訳すといいでしょうか）として自分の代わりにやってくれる便利屋さん。今はどうかわかりませんが、当時のSam氏の認識はこうだったと僕は認識しています（違っていたらすぐに訂正します）

しかし、技術的な側面から眺めると、「はい、エージェント、今日体調が悪いのだけど、診てくれない？」「ピピッ、癌ですね」と言われて、僕らはどう考えるのか、そのあたりの社会にフィットしたときの人間との摩擦が定義の中で無視されてるなという印象を受けます。 技術的にLLMの生成した対象は100%信頼の置けるものは絶対にありません。そもそも、ベースになっているtransfomer（広くニューラルネットワーク）は理論的に内部構造がブラックボックスになっています。 そのブラックボックスを通って生成された情報をまともな人なら信頼し無いのが自然だと僕は思います。まあ、診断を受けるくらいなら正答率等が算出できますから、ある程度信頼性を置くことは可能ですが、統計に100%はないわけです。

話はもどりますが、巷ではAGIという単語は実に様々な意味で解釈され、用いられている気がする。色んな人がいろんなことを言っています。僕は専門的にはそれら全てを「強いAI」と呼ぶのが妥当なような気がするのですが、ここで僭越ながら僕も繁茂しているAGIの定義の一つを提案したいと考えています。 提案と言っても単に、今後僕が生活をしていくうえでAGIという単語を使いやすくしたいから立場をはっきりさせたいだけなので、皆さんも好きなように定義しておくといいと思います。

さて、既存のLLMのようなブラックボックスなプログラム群のことをここで「Black code」と称したいと思います。抽象的に「原理上、ブラックボックスなもの」全てをBlack codeと定義します。同様に、既存の自然科学の知見、プログラム言語、自然言語など「原理が記述可能なもの」をWhite codeと呼びたいと思います。 そして、AGIは、AIがこのBlack codeに指示を出し、White codeを生成し続け、加速膨張し続けるシステムのことを指したいと考えています。図を作っているのですが、ちょっとこのpostだと設計上挿入できないのでまたいつかお見せします。Generalと入っているので大きくて統括的なシステムが想定されていることが多いように見受けますが、僕はあえて、「自分でCLIを用いてフォルダやファイル中のコードを生成し続け、目的に応えていくシステム」のことを一般性を持ったGeneralなinterigenceだと解釈したいと思います。 ちまたには「Agent」と呼ばれる製品群もありますが、AGIの「CLIを用いてフォルダやファイルを自立生成できる」（アプリケーションを自ら拡張できる）という点が大きな違いになるでしょう。つまり、Agentの行き着く先はAGIだと思っています。

ここでよく考えたいのは、このAGIの倫理性です。倫理というのは何もスピリチュアルに言っているわけではなく、学会等で硬く守られているあくまでも”科学的な”文脈での倫理性を一度考えねばならないと思います。何故か。「倫理は人間の活動（ここでは行為全般のことを指すことにします）の規範を適切に定めるものであり、AGIは人間と同様に”活動”が行えるようになるからです」 「WebのAGIを作りました。自律的に勝手に膨張して、著作権侵害、風紀違反しまくり」じゃ困るわけです。そこには何か倫理を規定しなければならず、それを何百年、何千年も考えてきた科学が僕らの世界にはどうやらあるようです。僕は今丁度倫理を習っていて、大きく功利主義、義務論、徳倫理学があるという認識を持っています。それぞれがそれぞれにいい、というよりも、歴史的な変遷をたどると徳倫理学が全ての倫理を包含している様に僕には感じられます。 「善い主体（徳を持った主体）になるために功利主義や義務論の道具を適宜使う」というのが徳倫理学の考えのような気がします。そしてたぶんAGIにも徳、つまり正解となる人物像、AI像を定めたうえで自立膨張、変化をしてもらわないといけなくなると僕は考えています。しかし、ここで大きな矛盾が生じます。ヒトラーの倫理性を徳としてAGIが自立駆動したらどうなるでしょうか。数理とコンピュータはすでに民主化されていますから規制も難しそうです。 つまり、AGIはおそらく限りなく果てしのない善と悪のいたちごっこを生んでしまうというのが僕の考えです。

しかし、往々にしてAIというのは便利なものです。AGIのセキュリティや国家の対立等は工学者の僕は一度無視させてほしい。工学的に利用できるような正しいAIの使い方があると思うのです。そこで、僕はMAGIという新しいシステムを提案したい。 正直なことを言うと、卒業研究の中で自分の提案するシステムのことを命名するときにパッとエヴァンゲリオンのコンピュータシステムであるMAGIシステムを思い出して名付けたという経緯があります。ほら、あの科学者の女の人のお母さんのやつ。「貴方は最後の最後まで母ではなく、女だったのよ」みたいな決め台詞があるやつ。（僕はよく覚えてるな） 失敬、MAGIはもともとキリスト教の三賢者のことを指すそうです。詳しくは後で調べる予定なのですが、AGIにおけるAI、Black code、White codeの三すくみをそれぞれ賢者と抽象化したうえでそのAIの部分を人間に置き換えてAGIを作ろうというのが僕の提案です。これは、建築家のA先生とランデブーした経緯（話せば長くなります）で思いつき、うちの研究室のボスとすり合わせて作ったシステムにあとづけてMAGIという名前とAGIとの対比を持ってきたものです。 むしろこの概念を説明するために先ほどAGIを定義したというのが本音です。

MAGIにはいろんなMAGIがあります。WebMAGI(Webを勝手に巡回して調べてくれるMAGI、WebAgentと呼ばれる仕組みを拡張)やRAGMAGI（与えたデータから抽出して回答してくれるLLMであるRAGの拡張）などなど、既存の全てのシステムはMAGIによって置き換えられるというのが僕の考えです。（するかどうかは別にして、僕はしたいけども） 人間が必要に応じてBlack codeに指示を出してWhite codeを生成し、そのWhite codeを人間が監査し、また必要があればBlack codeに指示を投げる、ただそれだけのシステムです。簡単でしょ。僕はこの人間のシステムに対する認知と関与がとても重要な気がしています。ここのところは話せば長くなるので2023年のアニメ映画『PSYCHOPATH』を見てください。あの映画の結論と僕の結論は同じです。このような、人の手によって監査・改善されるシステムであるMAGIはManus Artifitial general interigence.と呼ぶことにします。ManusはさっきChatGPTといっしょに考えました。ラテン語で「手」と言う意味があるそうです。「キリスト教や他の宗教では、「手」は神の意志や人間への介入を象徴することが多いです。例えば、神の手（Hand of God）は、人間の運命や創造を象徴します。」と言っています。ChatGPTが。AIからしたら僕らは創造主ですからなんだか良さげな命名だと思いません？後付なんですけど。

最後になりますが、このMAGIシステムは僕はテクノロジーと人間との調和をとるためのかなり善いシステムだと直観しています。僕の宇宙一尊敬している落合陽一先生はかなり昔から「デジタルネイチャー」という概念を提唱しています。話せば長くなりますが「コンピュータと既存の自然により形成された新しい自然」というのが簡単な定義だと思います。実用的な視点を言うと「機械が”偶然性”を獲得した状況」のことを指していると僕は認識しています。偶然性というのは哲学者である千葉雅也氏から引用しています。これまでの機械はテキトーやほんとうの意味でのランダム、は創れなかったのに対し、Black codeのLLMは簡単にテキトーな対象を生成してくれる。これはある種、既存の自然に照らすとおかしなことなのです。 「自然は分からない」だからわかろうとする、それが科学の営みですね。自然とはBlack codeらしい。人間の作ったものは、理解ったものから作っているはずだから、Black codeになりえない。それがこれまでの一般認識だった。しかし、いまの機械はどうでしょう。原理的に理解できないものが出てきてしまった。「人間の作ったものの一部」もわからない、でもわかろうとしないといけないわけです。わからないまま使うなんてできない。この自然と人間のやりとりの一般性に照らして生じる矛盾を解消するために、「計算機も含めて新しい自然だと認識してもいいじゃないか」と言っているのが落合先生なわけです。だって、皆さんこれを観ているその端末スマホかlaptopかIpadかわかりませんがそれ、どんな構造で動いてるか知ってます？僕も知らないです。つまりそういうことです。僕は全面的に賛同しています。つまり、MAGIシステムにおけるBlack codeはデジタルネイチャーであり、White codeはその自然を解明して人間が認知を行い理解ったもの、そして最後に人間そのもの、と新しい宇宙の構造を定義し直せるわけです。 「デジタルネイチャー」はあくまでも事実を言葉として定義しただけに過ぎません。僕は、MAGIシステムをもってして初めてデジタルネイチャーと人間との関係性とその在り方を定義したい。そして、それをポストデジタルネイチャーの基盤的な考えにしたいと勝手ながら思っています。落合先生は、僕らも生物もみんな計算機だとおっしゃる。僕もその解釈は納得がいきます。その概念に照らすとMAGIシステムはデジタルネイチャーでしかない。しかし、やはり僕らと機械は環世界が違います。同じ計算機として捉えても住んでる世界が違う対象なら一度区別して配置し直しても問題ないように思う。つまり、ポストデジタルネイチャーの概念はデジタルネイチャーの概念に3つの塗り絵を行ったと考えるといいかもしれない。あくまで、人類が自然を解明しようとする時、自然と人類は対比されてきたように思う。もちろん、厳密には僕らも自然の一部なのだけど。 僕の中でポストデジタルネイチャーはそういう二重性を持った概念として直観されています。

長くなりましたが、僕が勝手にいろいろと考えて定義した言葉なので、全然批判は受け入れるし、僕は勝手に使って研究を進めたいと思います。