AI分野の「100モデルの戦い」:学術問題から工学問題まで

先月、AI業界で「動物戦争」が勃発しました。

一方はMetaが発表したLlamaモデルで、そのオープンソースの特性から開発者コミュニティに支持されています。もう一方はFalconという名前の大規模モデルです。5月にFalcon-40Bが登場し、Llamaを圧倒してオープンソースLLMランキングのトップに立ちました。

このランキングはオープンソースモデルコミュニティによって作成され、LLM能力を測定する基準を提供し、ランキングを行っています。ランキングは基本的にLlamaとFalconが交互にトップを争っています。Llama 2が発表された後、Llamaファミリーが再びポイントを獲得しました；9月初旬にはFalconが180Bバージョンを発表し、再びより高い順位を獲得しました。

興味深いことに、Falconの開発者はアラブ首長国連邦の首都アブダビにあるテクノロジー革新研究所です。アラブ首長国連邦の公式は、彼らがこの分野に参加するのはコアプレーヤーを覆すためだと述べています。

現在、AI分野は「群魔乱舞」の段階に入っています：資金力のある国や企業が、自分たちの大規模言語モデルを構築しています。湾岸諸国の中でも、プレイヤーは一つではありません。8月、サウジアラビアは国内の大学に3000枚以上のH100チップを購入し、LLMのトレーニングに使用しました。

AI業界のこの百花繚乱な状況は、2017年にGoogleが発表した「Attention Is All You Need」論文に起因しています。この論文はTransformerアルゴリズムを公開し、今回のAIブームの重要な推進力となりました。現在、すべての大規模モデルは、世界を驚かせたGPTシリーズを含め、Transformerを基盤に構築されています。

Transformerの登場により、学術界の基盤アルゴリズムの革新速度が大幅に遅くなりました。データエンジニアリング、計算能力の規模、モデルアーキテクチャなどのエンジニアリング要素が、AI競争の重要な要因となっています。一定の技術力を持つテクノロジー企業は、大規模モデルを開発することができます。

しかし、参入が容易であることは、誰もがAI時代の巨人になれるわけではありません。オープンソースの大規模モデルの核心競争力は活発な開発者コミュニティにあります。MetaのLlamaシリーズはオープンソースLLMの指標となっており、多くのモデルがそれを基に開発されています。

同時に、パフォーマンスの差は依然として明らかです。最新のAgentBenchテストでは、GPT-4が4.41点で圧倒的にリードしており、他のオープンソースLLMのスコアは多くが1点前後です。この差は、トップ科学者チームと長年の研究の蓄積によるものです。

技術的な課題に加え、利益も大きな問題です。現在、ほとんどのAI企業はコストと収入の深刻な不均衡に直面しています。推定によれば、世界のテクノロジー企業は毎年2000億ドルを大規模モデルのインフラに投資し、収入はわずか750億ドルにとどまるとされており、巨大なギャップがあります。

全体的に見て、AI分野は学術的な課題から工学的な問題への移行を経験しています。参入障壁は低くなっていますが、真の価値創造とビジネスの成功には依然として多くの課題が立ちはだかっています。未来の勝者は単にモデルそのものに依存するだけでなく、応用シナリオ、エコシステムの構築、ビジネスモデルにおいても突破口を開く必要があります。