楽天グループ：LangChain・LangSmithで社内AIプラットフォームを構築、70事業での生産性向上を目指す

Before

楽天グループは、日本最大級のオンラインショッピングモールを運営するだけでなく、eコマース、旅行、デジタルコンテンツ、Fintech、通信など70以上の事業を展開する総合企業である。「イノベーションと起業家精神を通じて人と社会をエンパワーメントする」というミッションのもと、新しい技術の積極的な採用をDNAとして培ってきた。

しかし、多様な事業ポートフォリオを抱える同社にとって、AI技術の統一的な活用は大きな課題であった。各事業で独自にAIを開発・導入するのではなく、グループ全体でスケーラブルに展開できる基盤が求められていた。特に以下のニーズが浮上していた：

事業者向け支援の高度化

楽天のプラットフォームに出店する事業者（ショップオーナー、ホテル、小売店など）への支援は、従来から専任のオンボーディングコンサルタントが担当していた。しかし、事業者数の増大と問い合わせの多様化に伴い、既存の支援体制では対応限界が見えてきていた。

事業者からの質問は多岐にわたる：

• 市場動向に関するリサーチ依頼
• 商品掲載・取引に関する操作方法の問い合わせ
• 自社ドキュメントに基づく顧客対応の効率化ニーズ

これらに人間のコンサルタントのみで対応するには、スケーラビリティとコストの観点から限界があった。

社内知識管理の課題

32,000人を超える従業員（楽天イノベーター）を抱える同社では、社内ナレッジの共有と検索も大きな課題となっていた。各事業で蓄積された膨大なドキュメントから必要な情報を迅速に取得することが難しく、重複した作業や情報の検索時間が生産性を圧迫していた。

技術選定のジレンマ

AI基盤を構築するにあたり、楽天は以下の要件を求めた：

• 認知アーキテクチャとUXの柔軟な設計: 単なるチャットボットではなく、業務に最適化された体験設計
• ベンダーロックインの回避: 多様なモデルオプションを保持し、コスト/パフォーマンスのトレードオフを制御
• 大規模展開の実現: 32,000人の従業員全員に展開するスケーラビリティ
• データの社内保持: 機密情報の外部流出を防ぐセキュリティ要件

これらの要件を満たすソリューションが求められていた。

AI導入内容

楽天はLangChainとLangSmithを中核技術として、 「Rakuten AI for Business」 と社内AIプラットフォームの2本柱でAI活用を推進した。

Rakuten AI for Business：事業者向けAIプラットフォーム

事業者の業務効率化を支援する包括的AIプラットフォームとして、以下の3つのプロダクトを展開した。

Rakuten AI Analyst（市場調査アシスタント）

リサーチアシスタントとして機能し、関連データとチャートに裏付けされたビジネスインサイトを事業者に提供する。市場動向の分析依頼に対し、楽天のビッグデータを活用して視覚的なレポートを生成する。

技術的特徴：

• RAG（Retrieval-Augmented Generation）: pgvectorなどのベクトルデータベースを活用。膨大な非構造化ドキュメントを埋め込みベクトル化し、問い合わせに対して最も関連性の高い情報を瞬時に検索する
• 構造化データの可視化: LLMがコード（Python等）を生成・実行し、数値データを自動的にチャート化
• マルチモーダル出力: テキストと視覚的要素を組み合わせたレポート生成

Rakuten AI Agent（セルフサービスカスタマーサポート）

事業者がマーケットプレイスに関する質問に対して、より速くセルフサービスで回答を得られるように支援する。掲載方法、取引フロー、ポリシーに関する問い合わせに24時間対応可能。

技術的特徴：

• OpenGPTsフレームワーク: LangChainが提供するOpenGPTsパッケージを採用し、特定の知識ソース（マニュアル・ガイドライン）に特化したカスタムボットを迅速に構築
• マルチターン対話: プロンプトエンジニアリングにより、複雑なコンテキストを維持しながら段階的な解決策を提示
• エスカレーション連携: 特定のキーワードや感情をAIが検知し、人間オペレーターへ適切なコンテキストを引き継ぎ

Rakuten AI Librarian（顧客対応ドキュメントAI）

事業者のエンドカスタマーからの問い合わせにリアルタイムで回答するために、事業者の全ドキュメントを要約・整理する。

技術的特徴：

• セマンティック検索: 単なるキーワードマッチングではなく、文脈の類似性に基づいた情報の抽出
• 再ランク付け（Re-ranking）: 検索結果の精度を向上させるため、LLMによる高度な関連度評価を導入
• 継続的学習: 新規ドキュメントの自動インデックス更新パイプライン

社内AIプラットフォーム：楽天イノベーターのエンパワーメント

従業員向けには、LangChainのOpenGPTsパッケージを活用して社内AIプラットフォームを構築した。驚くべきことに、初期版は3人のエンジニアで1週間で立ち上げられた。

このプラットフォームでは：

• セルフサービスGPT作成: 各部門がコーディングなしで内部ドキュメントに基づくカスタムチャットボットを作成可能
• LangSmithによる品質保証: LangSmithのTesting・Evaluation機能を駆使し、生成された回答の事実性（Hallucination検知）や適切性を継続的にテスト
• プロンプトハブの活用: LangSmith Hubを通じて、全社で最も効果的なプロンプトを共有・再利用

LangChain・LangSmithを選定した理由

楽天は2023年1月からLangChainの採用を開始した。採用理由は以下の通り：

技術的優位性：

• LLMアーキテクチャの標準化: 異なるLLM（GPT、Claude、独自モデル等）を同一インターフェースで扱えるモジュール性
• LangSmithによる科学的デバッグ: 実機でのトレースログ分析、遅延の特定、トークンコストの可視化

科学的アプローチ： AI for Business総括マネージャーのYusuke Kaji氏は以下のように述べている：

「LangSmithにより、科学的に物事を進められます。大企業では通常、複数のチームが独立してアイデアを開発します。一部のチームは良いアプローチを見つけ、他のチームはそうでない場合があります。LangSmith Hubを使用することで、最良のプロンプトを配布し、チーム間のコラボレーションを促進できました。LangSmithのTestingとEvalをカスタム評価指標と共に使用することで、モデルやアーキテクチャの変更による影響を定量的に測定できるのです。」

After

楽天のAI導入は、短期間での高速展開と大規模なロードマップの両方を実現した。

開発速度：3人×1週間で初期版リリース

社内AIプラットフォームは、3人のエンジニアで1週間という驚異的なスピードで初期版が構築された。これはLangChainの既製コンポーネントと、オープンソースコミュニティの知見を活用した結果である。

科学的品質管理の実現

LangSmithの導入により、複数チーム間でのベストプラクティス共有と継続的な改善サイクルが確立された。アプローチの比較・測定・最適化を体系的に行う文化が醸成された。

今後の展望：70事業横断での生産性向上

楽天はRakuten AI for Businessを顧客基盤全体に展開することを計画している。特に以下の領域を焦点とする：

• マーチャント（出店ショップ）: 市場分析と運営支援
• ホテル: 宿泊施設向け運用効率化
• 小売店: ローカル経済向けソリューション
• 地方経済: 地域事業者のデジタル化支援

目標：20%の生産性向上

これらの取り組みを通じて、生産性を20%向上させることを目標としている。70以上の事業にわたる大規模なAI展開は、楽天の「イノベーションによる社会貢献」というDNAを体現するものである。

LangChainとLangSmithは、楽天の技術アーキテクチャの重要な基盤として、大規模AIアプリケーションの迅速かつ安全な構築を可能にしている。