生成AI時代の知的創造の技術：「KM法2.0」公式マニュアル

第22章：生成AIのリスク・マネジメント

22-1 : 生成AIのリスク・アセスメント

　生成AIには、さまざまなリスクが内包されています。私たちは、しばしば生成AIを過信することによって、知らず知らずのうちに生成AIによって被害を受けてしまうというリスクがあります。そんなリスクを最小限に抑えるには、生成AIの及ぼしうるリスクの領域、範囲、程度、種類などを正確に評価できること（リスク・アセスメント）が必要です。

例えば、自分が熟知していること、あるいは得意分野で生成AIの出力を吟味すると、一定の評価ができます。

リスク・アセスメントの手順：

1. 危険の特定：どんな危険があるか洗い出す
2.リスクの見積もり：事故が起きる「可能性」と被害などの「重大さ」を評価する
3.優先度の設定：リスクの大きいものから順位をつける
4.低減措置の検討：危険なものをなくしたり、安全対策を考える
5.対策の実施と記録：実際に計画を実行し、結果を記録する

22-2　ハルシネーション対策

22-3 : クロスチェックによる誤答の訂正法

22-4 : 生成AIを使った誹謗中傷動画の問題

22-5 : 生成AIをめぐる著作権侵害問題

22-6 : AI依存症の問題

22-7 : AI戦争で「人類が人類を滅ぼす」危機