GPT4はヤマタノオロチ？

GPT4が1トリンリンパラメータで学習させた単一モデルではなく、GPT3クラスの8つの専門家モデル(MoE)ベースで構築されているというリークを蒸し返す記事がLinkeIn経由で流れてきました。

https://www.linkedin.com/posts/alberromgar_gpt-4s-secret-has-been-revealed-activity-7078113165414215681-4Cue?utm_source=share&utm_medium=member_desktop

GPT-4’s Secret Has Been Revealed

ごみためはジョージホッツウォッチャーではありますが、AI/MLウォッチャーではないので、GPT4がホンモノなのか、OZの魔法使いなのかの違いについては実はあまり興味がありません。

ただ、８つのモデルのうちの１つは「テーブルトークの専門家」であることは間違いないと考えています。

プロンプト（抜粋）：

添付ファイル「weapon_shop_dialogue.txt」に書かれたドワーフの武器屋になったつもりで会話してください。 その際プレイヤーの反応を想定して、最大３つの選択肢として出力してください。 テーブルトークRPGのシナリオとして、プレイヤーが血沸き肉躍る冒険の一部として会話を楽しめるような工夫を想定に含めてください。 プレイヤーが選択肢を選んだら、武器屋の応答を出力してください。 そして次のプレイヤーの反応を想定して、再び最大３つの選択肢として出力してください。 上記を繰り返してください。プレイヤーが店を出るところまで続けてください。

添付ファイルにも、数行の属性とGPT4が生成した会話サンプルが書いてあるだけです。

それで以下のような選択肢による会話が延々と続きます。（要code interpreter）

（エメラルドの短剣はどこから出てきたんや）

（嫁がおるって書いただけで勝手にしゃしゃり出てくる）

おそらくですが、status.txtにプレイヤーの属性や所持品の情報を記録するように指示を追加し、bom.txtに店の販売アイテムを書いてそれを参照させる指示を追加すれば、ボルタック商店くらいは再現できそうな気がしてきます。

code interpreterなしでもい以下の記事くらいのことはできるようです。

「GPT-4」を進行役にしてテーブルトークRPG「ダンジョンズ＆ドラゴンズ」をプレイしたらこうなる – GIGAZINE

ただまぁ、永続化できないと続きが遊べませんからね。OpenAIのAPIでそこまで作りこむスキルも持ち合わせていないのでcode interpreterはありがたかったです。

あえて選択肢にしているのは、いわゆる既存の「シナリオデータ」を解釈させるための布石ですが、この選択肢も、いったいどこから湧いてくるのか。

そうです。きっと専門家モデルのうちの1つが「ダンジョンマスター」「ゲームマスター」なのだろうということです。

まったくの推測ですが、かつて日本に存在した「プログラミングはRPGである」思想を実装したものかもしれません。

いずれにしても、OZの魔法使いはカーテンの向こう側に確かに存在するということが分かって、みんな安心じゃないですか？

送料無料［ソードワールド2.5 スタートセット星をつかむ迷宮］グループSNE ボードゲームTRPG テーブルトークRPG 価格：3,600円（税込、送料無料) (2023/8/13時点)

ダンジョンズ＆ドラゴンズ　プレイヤーズ・ハンドブック 価格：5,500円（税込、送料無料) (2023/8/13時点)