AIセーフティ基盤

　日本の研究.comのFacebookからのリンクより

　NEDO、産総研、琉球大学、民間企業２社でAIセーフティガイドラインを構築したらしい↓

NEDOが推進した「AIの安全性確保に関する研究開発・検証等の推進事業/AIセーフティ強化に関する研究開発」(以下、本事業)において、NEDO、国立研究開発法人産業技術総合研究所(産総研)、株式会社Citadel AI、株式会社コーピー、国立大学法人琉球大学の5者は、AIシステムの安全性確保のための共通基盤となる、ガイドラインや評価プロトコルなどを開発・策定し、公開しました。

本事業で策定したガイドラインなどは、AIシステムの企画・設計段階から、評価・運用における安全性確保に重点を置き、AIを活用したシステムを開発・導入する事業者が、リスクの洗い出しや適切な対策の検討を行うための考え方や基本的な手順を整理したものです。

ガイドラインや評価プロトコルなどが広く活用されることで、AIシステムの安全性に関する共通の考え方や手順が社会に浸透し、AIを安心して活用するためのAIセーフティの共通基盤の整備を加速することを目指します。

図1 本事業の概要

1.背景

2023年のG7広島サミットで発足した広島AIプロセスなどを背景に、各国でAIセーフティに関する議論や体制整備が進んでいます。こうした国際情勢を踏まえ、日本においてもAIセーフティ・インスティテュート(AISI)※1が設置され、国際的な議論に参画しています。

本事業※2は、生成AIの安全・安心な利用に向けた国際ルール作りを日本国内でも推進するため、官民一体となった取り組みを研究開発の側面から支援するものです。近年、人とAIが協調して判断・行動する場面が増加している中で、AIセーフティをいかに設計・評価・運用するかという共通課題への対応が求められています。

本事業では、こうした課題に対し、AIセーフティを評価・運用するための共通基盤の整備を目的とした研究開発を実施しました。AIの実現技術や応用分野は多岐にわたる一方で、人とAIが関わる場面をどのように安全に設計するか、また安全性を判断・検証・運用によってどう担保するかといった課題は、分野を横断して共通しています。

図1に示すように、本事業は、安全性の「ものさし」となる評価・管理技術の開発(研究開発項目〔1〕)、実環境を想定した応用領域別のAIセーフティ評価・実装技術の開発(研究開発項目〔2〕)と、それらの成果を企業の実務で活用可能な形に整理・体系化し、AIセーフティ実施のためのガイドライン類の策定(研究開発項目〔3〕)につなげる構成としています。

なお、本事業は特定のAIの社会実装の完了を示すことを目的とするものではなく、今後の技術開発・実証・標準化につながる共通の基盤を提示することを目指しています。