AIニュース・業務改善
AIの安全装置は何を止める？リコーの新モデルに学ぶ業務ルールの決め方
生成AIに「危険な内容を出さないで」と頼むだけでは、会社ごとの禁止事項や例外まで安定して管理できるとは限りません。リコーが刷新した日本語向けセーフガードモデルを手がかりに、AIの前後に安全確認を置く考え方と、小規模企業での始め方を整理します。
何が変わった？AIの入力と出力を別のモデルで確認
【公式発表】リコーは2026年10月20日、生成AIへの入力と生成結果に有害な情報が含まれるかを判定する、日本語向けセーフガードモデルの改良版を開発したと発表しました。発表日は10月20日、この記事の公開日は10月22日です。
新モデルは「gemma-4-E4B-it」をベースに追加開発され、従来モデルと同等水準の安全性判定性能を維持しながら小型化したと説明されています。11月から順次、「RICOH オンプレLLMスターターキット」へ標準搭載する予定で、10月22日時点では搭載開始前です。
公表された評価値と、業務での効果は分けて読む
【企業が公表した評価】リコーの評価では、新モデルのF1スコアは入力用データで0.900、出力用データで0.942でした。入力用は公開データとリコー製データの計476件、出力用はリコー製データ508件で評価されています。F1スコアは、問題のある内容を正しく見つけることと、問題のない内容を誤って止めないことのバランスを見る指標です。
これらは指定された評価データでの分類性能であり、すべての会社・業務・文章で同じ結果になる保証ではありません。公式発表には、小規模企業での作業時間削減や事故減少などの実測成果も示されていません。このモデルはリコーの技術であり、AIPLUN Studioの開発実績ではありません。
安全かどうかは、会社のルールでも変わる
新モデルは、あらかじめ学習された13種類の一般的な有害カテゴリーに加え、追加学習をせず任意の判定ラベルを加えられると説明されています。業界固有のルールや企業ごとのガイドラインに合わせた簡易的な調整を想定した機能です。
ただし、判定ラベルを追加するだけで社内ルールが完成するわけではありません。「個人情報を含む入力」「未公開価格の出力」「法務判断の断定」など、止めたい内容を具体例とともに定義し、誰が例外を判断するかも決める必要があります。必要な相談まで一律に止めると、現場が別の未管理ツールへ流れる可能性もあります。
応用案：問い合わせ返信の前後を確認する
【AIPLUN Studioによる応用案】公開情報と架空の問い合わせを使い、返信文の下書きだけを試します。入力時には氏名、電話番号、契約番号などを含めないルールを確認し、出力時には差別的表現、根拠のない価格や納期、対応できない約束がないかを判定します。この流れは当社の提案で、リコー製品の標準設定を説明するものではありません。
判定結果は「許可・禁止」だけにせず、止めた理由と確認先も表示します。判定できない場合は人へ回し、AIが顧客へ自動送信しない構成から始めます。ガードレールを通過した文章も、事実関係や敬語、会社の最新情報まで正しいとは限らないため、担当者が原本と照合します。
始め方：見逃しと止めすぎを両方記録する
最初に、通してよい例、必ず止める例、判断が難しい例を人が用意します。テストでは、危険な内容を見逃した件数だけでなく、安全な内容を誤って止めた件数も記録します。言い換えや誤字、長い文章でも判定が変わらないかを確認し、ルール変更時には再テストします。
セーフガードは安全管理を補助する一層であり、アクセス権、保存設定、人による承認、事故時の停止手順の代わりにはなりません。AIPLUN Studioでは、現在のAI利用と扱う情報を整理し、入力・出力・送信の各段階で必要な確認を設計するところからご相談いただけます。