Google Bardは、LaMDAを用いて開発が進められていましたが、2023年5月11日PaLM 2に変更されたことが発表されました。
要約 – PaLM 2
PaLM 2は、Googleの大規模言語モデル(LLM)であり、テキストとコードの大規模なデータセットでトレーニングされた自然言語処理モデルのひとつ。幅広いプロンプトや質問に応じて人間のようなテキストを通信および生成することができます。たとえば、事実のトピックの要約を提供したり、ストーリーを作成したりできます。以前のバージョンであるPaLMと比べ、推論、多言語の扱い、プログラムコードの理解と出力などに長けています。
執筆時点で既にさまざまなGoogleサービスに導入されており、2023年5月11日はチャットAIであるGoogle Bardにも導入されたことが発表されました。
Google Japan Blogより引用:
PaLM 2 について
本日、次世代言語モデルである PaLM 2 を発表しました。PaLM 2 は、この研究を発展させたもので、多言語、推論、およびコーディング機能が向上した最先端の言語モデルです。
多言語:PaLM 2 は、100 以上の言語にわたる多言語テキストに、より重点をおいて学習しています。これにより、慣用句、詩、なぞなぞなど、ニュアンスを含む表現を数多くの言語で理解、生成、翻訳するという難しい問題に対する性能が大幅に向上しました。PaLM 2 は、上級レベルの言語能力試験で「習得」レベルに合格しました。
推論:PaLM 2 で学習に利用した広範なデータセットには、数式を含む科学論文やウェブページが含まれています。その結果、ロジック、常識に基づく推論、数学に関する能力が向上しています。
https://japan.googleblog.com/2023/05/palm-2.htmlコーディング(プログラミング):PaLM 2 は、公開されている大量のソースコードデータセットで事前学習しています。結果として、Python や JavaScript などのよく使われるプログラミング言語だけでなく、Prolog、Fortran、Verilog などの言語でコードを生成することもできます。
(了)
※本記事の執筆には生成AIを利用しています