サンフランシスコに本拠地を置く“人工知能研究所”ＯｐｅｎＡＩが２０２０年夏に発表した「ＧＰＴ―３」と呼ばれるＡＩをご存じでしょうか？　様々なＡＩが開発されている昨今にあって、ＡＩ業界に衝撃を与えた革新的な存在です。衝撃の理由は、作り出す文章が人間の書いたものと遜色ないレベルだったから。ＧＰＴ―３が登場するまでＡＩによる文章生成は難しく、まさかそんなに自然な文章を生成できるはずがないと皆思っていたのです。いったい、どんなものか詳しくご説明しましょう。

【文章を作る仕組み】ＧＰＴ―３の正体は超巨大な言語モデルです。言語モデルとは、ある文章の次にどんな単語が出現するか、出現しやすい単語は何かを当てることができるもの。例えば「今日は晴れなので」の後に「旅行」や「散歩」という単語はよく出現しますが、「です」や「を」といった単語はほとんど出現することはないでしょう。このような単語のありとあらゆる“並び”に対して自然かどうかを判定できるものが言語モデルなのです。

「今日は晴れなので」の次を「旅行」と推測すれば、さらに「今日は晴れなので旅行」の次を推測することができます。「今日は晴れなので旅行に」まで推測すれば、さらにその先も…そうやって順次単語を予測していくことで文章を生成することができるわけです。この仕組み自体は以前からありましたが、ＧＰＴ―３は今までのものとは比べものにならないほど非常に自然な文章を生成できます。なぜか？　それは「超巨大」だからです。

　ＡＩの大きさは学習させるデータの量とＡＩ自身が持つパラメータの数で語られることが多いです。学習させるデータの量はＡＩに教え込ませるデータの数ですので、これはイメージしやすいですよね。一方、ＡＩが持つパラメータ数というのは、ＡＩが表現できるバリエーションを表すものです。多彩なバリエーションを学ぶために必要なのは大量の学習データですから、データとパラメータはどちらも多くなければ超巨大なＡＩとは言えません。

　ＧＰＴ―３は４５ＴＢから抽出した５７０ＧＢのデータ等を学習し、約１７５０億個のパラメータを持っています。これは現存のＡＩの中では最大サイズと言われています。前身であるＧＰＴ―２と比べるとパラメータ数は１００倍以上になっており、ＧＰＴ―３がいかに巨大なＡＩであるかご理解いただけるでしょう。

【常識を覆す能力】ＧＰＴ―３のすごさは非常に自然な文章を生成できるＡＩということだけではありません。もう一つのすごさは、言葉に関するあらゆる課題を解決できる可能性を秘めていることです。

　これまでのＡＩは「日英翻訳ＡＩ」「要約ＡＩ」「対話ＡＩ」といったように、やりたいことに対して専用のＡＩを開発することが普通でした。専用のＡＩを開発するためには専用のデータが必要ですから、当然、日英翻訳ＡＩを開発したければ日英で書かれた大量の文章を集め、それを使って専用のＡＩを開発します。ＡＩといっても何でもできるわけではないのです。

　しかし、ＧＰＴ―３はその常識を覆しました。ＧＰＴ―３は何かに特化して開発されたものではありません。しかし「超巨大」であるが故に、翻訳や要約、対話など様々なことができてしまったのです。

　例えば、ＯｐｅｎＡＩの公式ブログには、顧客からのフィードバックを要約するＡＩを、ＧＰＴ―３を使って開発した例が載っています。このＡＩに、例えば「お客様がチェックアウトの際に不満に思っていることは何ですか」と質問したとしましょう。すると「お客様はチェックアウトフローの読み込みに時間がかかりすぎることに不満を感じています。また、チェックアウト時に住所を編集したり、複数の支払い方法を保存したりする方法を求めています。」のように、顧客のフィードバックから有用な部分を適切に要約して提供してくれるのです。

　現時点では特化して開発したＡＩの方が性能は良いことが多いですが、もしこの超巨大な言語モデルがさらに巨大化したらどうでしょうか。いつかこのＡＩだけで、すべてのＡＩに勝る日が来るかもしれません。ＧＰＴ―３はいわば、ＳＦ映画に出てくる、すべてをつかさどるような“マザー”的な存在なのです。我々がかつて想像していたＡＩの姿に現状最も近いのはＧＰＴ―３だと言えるでしょう。

　ちなみに、こんなにすごいＧＰＴ―３ですが、弱点もあります。それはコストがかかりすぎること。開発・運用するためには大量のマシンと、マシンを動かすための途方もない電気代が必要です。こうした理由から、利用には膨大なコストがかかるため、気軽に使える日はまだ少し先になるかもしれません。

【人知を超える存在】ＧＰＴ―３は様々な言語が交じった状態で学習されていますが、基本的には英語に強いＡＩです。そのため日本語に特化したＧＰＴ―３級のＡＩを、株式会社ＬＩＮＥがＮＡＶＥＲと共同で開発することを発表しました。現在はまだ開発中ですが、これが完成して活用が始まれば、日本においてもこれまでＡＩにはできないと思われていた仕事もＡＩが担う可能性があるでしょう。

　ＧＰＴ―３はあまりにも巨大なＡＩであるため、できることの全貌を人間も把握できていません。世界では現在までに様々な業界で３００以上のアプリケーションがＧＰＴ―３を利用していますが、その中でも新しい機能が発見されています。将来的にはＧＰＴ―３よりもさらに巨大なＡＩも出てくるでしょう。私たちが映画で見たＡＩの誕生は、もうそこまで来ているのかもしれません。　

☆おおにし・かなこ　愛媛県出身。２０１２年お茶の水女子大学大学院博士後期課程修了。博士（理学）。同年、ＮＴＴドコモ入社。１６年から２年間、情報通信研究機構に出向。一貫して雑談対話システムの研究開発に従事。２０年から大手ＩＴ企業でＡＩの導入や設計をリード。ＡＩに関する講演や執筆、監修等も行う。著書に「いちばんやさしいＡＩ＜人工知能＞超入門」　「超実践！ＡＩ人材になる本」。

【引用】ｈｔｔｐｓ：／／ｏｐｅｎａｉ．ｃｏｍ／ｂｌｏｇ／ｇｐｔ－３－ａｐｐｓ／