生成ＡＩの安全性入門

生成AIの進展は社会や産業に大きな変革をもたらす一方、生成AIが生み出す有害なコンテンツや意図しない挙動といったリスクに関する課題が浮き彫りになっています。本書は、エンジニア、研究者を対象に、生成AIにおけるリスクとその対処法を体系的にまとめます。1章ではAI安全性を定義し、近年の動向を概説します。2章では現実に直面する脅威を分類・整理します。3章でOpenAIが公開しているモデルスペックを題材にAIの理想的な振る舞いについて考えます。第4章で安全性に関する評価方法について紹介したあと、5章ではレッドチーミングについて解説します。6章と7章でモデルレベル、システムレベル双方からの安全性向上技術を解説し、最終章でAI安全性の未来について考察します。安全な生成AIの開発と運用に必要となる知識を1冊にまとめます。