墨田区では、業務効率化を目的として自治体AI zevoを活用したRAG機能の検証を行いました。
検証に参加した部署は、それぞれが抱えている課題・業務に対して文章生成AIとRAG機能を用いて改善にチャレンジしました。
このたび取り組んだ内容を発表する「RAG検証成果報告会」を2025年11月18日（火曜日）に墨田区役所隣接のすみだリバーサイドホールで開催しましたので、報告会の報告書を紹介させていただきます。
※公開する報告書は庁内向けに作成したものを一部編集したものです。

●RAGとは？

RAG（Retrieval-Augmented Generation）とは、文章生成AIが回答を出力する際に参考にする資料を入れておく「本棚」を作る機能です。
この本棚の中に、公開されたばかりの最新情報や過去の履歴などの資料を入れておくことで、資料を踏まえた回答や資料内から類似するものを探してくる等のタスクをこなすことができます。
本棚に資料を追加・差替え、どの本棚を見に行くのかを指定する等の操作を行うことでより目的にマッチした回答を得ることができます。

●RAG検証成果報告書

＜RAG検証成果報告書.pdf＞

●検証参加部署・対象業務

●検証のポイント

検証の結果、複数の部署で共通したRAGの強み、難しかった点と対応策をご紹介します。

【強み】

• RAG内のどの資料を参照したのか確認できるため、ファクトチェックや詳細の確認が容易
• 資料の追加、削除を行うことでより望ましい回答を得やすくなる

【難しかった点と対応策】

• サイズの大きい資料や人間が読みやすくなるようにした資料を思い通りに認識してくれないことがある→文章生成AIが読み取りやすいように調整、分割
• 資料が古いと回答も間違ってしまう→更新されたら、差替えを行う

●今後の展望

今回の検証を通じて資料の整理や回答精度等の課題はあるものの、業務の効率化や知識の集約や職員の負担軽減など多くのメリットが示されました。墨田区では引き続き検証を行い、技術の進化に注目しながらよりよい文章生成AIの活用方法を探求していきます。