プロンプトエンジニアリングで精度を大幅に向上！生成 AI を活用したナレッジ検索システムの全社展開を実現KDDIアイレット株式会社のクラウドを活用した導入事例

https://www.iret.co.jp

掲載日：2025年3月6日

属性

業種

情報通信・IT

課題

サポートデスク担当チーム向けに生成 AI を活用した「問い合わせ要約・検索機能（cloudpack サポートデータ検索システム）」を開発したが、生成 AI の精度が不十分で、全社展開するためには改善が必要だった。

対応と結果

Google Cloud のマネージドサービスを活用し、データ活用基盤を構築。プロンプトエンジニアリング手法によって精度改善を重ねた結果、要約検索機能の精度改善が見られた。
Slack のワークフローに組み込み、「cloudpack サポートデータ検索システム」の全社展開を実現。

アイレット株式会社は、サポートデスク担当チーム向けに生成 AI を活用した「問い合わせ要約・検索機能（以下、cloudpack サポートデータ検索システム）」を開発。社内エンジニア向けにもこのシステムを展開するため、プロンプトエンジニアリングの手法を用いた精度改善を実施しました。

サポートデスク業務の工数削減に貢献した生成 AI 検索システムを全社展開へ！精度改善に向けた挑戦

アイレット株式会社（以下、アイレット）は、クラウドの導入設計から構築、監視、運用保守までを総合的に支援するフルマネージドサービス「cloudpack」を提供しています。本サービスに関するお客様の困りごとを解決する窓口としてサポートデスクを設置し、さらに近年は生成 AI を活用した「cloudpack サポートデータ検索システム」を開発してサポートデスク業務 DX を推進。お客様の課題解決を迅速化しています。

「cloudpack サポートデータ検索システム」は、お客様がフォームで入力したお問い合わせに対して、生成 AI がサービスの公式ドキュメントや過去の対応ナレッジをもとに回答を提案する機能などを備えています。この機能はお客様へのサービス品質向上につながるだけでなく、社内へのナレッジ共有にも役立つと考えられていました。しかし、社内エンジニア向けに広く展開するためには回答精度の改善が必要でした。

そこで、サポートデスク向けにリリースした機能を全社に向けて公開するための検討をスタート。一部の機能を省いた上で、プロンプトエンジニアリングの手法を用いた精度改善に取り組むことになりました。

プロンプトエンジニアリングで生成 AI による回答精度を改善！既存ワークフローに実装させることで全社展開へ

今回は Google Cloud のマネージドサービスを活用し、データ活用基盤を構築しました。その上で、全社展開に向けた精度改善のため、プロンプトエンジニアリングの手法を用いたチューニングを実施。プロンプトから期待通りの回答を得るために試行錯誤を繰り返し、サポートデスクの協力を得ながら、効果測定と改善を重ねることで、回答の安定性を向上させました。また、検索機能においてハルシネーションの問題が発生していたため、情報源を明示的に指定し、「知らないことは回答しない」ようにプロンプトを調整することでハルシネーションの発生を抑制しました。

さらに、生成 AI の効果測定を継続的に実施し、精度の低かった回答を分類・分析。プロンプトエンジニアリングを通じて精度向上が見込めるポイントを特定し、都度改善を加えました。特に、曖昧な表現による誤回答を防ぐための調整を繰り返すことで、安定した回答を実現しています。

システムの使い勝手にも配慮し、すでに社内で広く利用されている Slack のワークフローに統合。従来のワークフローを変更することなく、自然な形で「cloudpack サポートデータ検索システム」を活用できる環境を整えました。

この取り組みにより、生成 AI を活用した「問い合わせ要約・検索機能」の精度が向上し、社内エンジニア向けに正式リリースすることができました。その結果、社内での課題解決の手助けとなり、さらにお客様への対応が迅速にできるようになりました。

すでに問い合わせ内容の整理や情報検索といったサポートデスク業務については9人日の工数を削減していましたが、さらにこのシステムを全社的に展開することで、将来的にエンジニアの工数削減も期待できます。今後も弊社で推進する「次世代MSP」に向けた取り組みの一環として、回答精度を維持しながらさらなる改善を進め、より多くの社員が活用できるシステムへと進化させていきます。

アイレットでは、クラウド環境における業務効率化を支援するさまざまなソリューションを提供しています。生成 AI 活用やデータ活用基盤の構築、プロンプトエンジニアリングの適用による AI 精度向上など、お客様の課題やニーズに合わせて最適なソリューションをご提案いたします。興味・関心のある方は、ぜひアイレットにご相談ください。

システム構成図

使用プロダクト

・Artifact Registry
・Secrets Manager
・Cloud Run
・Vertex AI
・Vertex AI Search
・BigQuery
・Cloud Storage
・Google Sheets
・Zendesk
・Slack

案件名	プロンプトエンジニアリングで精度を大幅に向上！生成 AI を活用したナレッジ検索システムの全社展開を実現
クライアント	KDDIアイレット株式会社