これまで
答えるAI
質問に答える。文章を書く。要約する。
HHarmonAIze
01 / EVOLUTION
AIは、すでに世界を変え始めている
AIは、会話するだけの存在ではありません。
AIが「判断し、実行する」時代が始まっています。
現在
判断するAI
状況を読み取り、次に何をするかを自ら決める。
そして、いま
実行するAI
決めたことを、実際のシステム上で実行する。
ファイル
アプリ
サービス
02 / NEW PROBLEM
そして、新しい問題が生まれた
どれだけAIが進化しても、その判断が常に正しいことを前提にはできません。
そしてAIがシステムを動かす世界では、間違った判断による実行も、システム上は「正常な処理」として完了します。
従来のシステム
AIが実行するシステム
事前に
決められた実行内容を、システムが判断
- Aなら、これをする
- Bなら、これをする
- Cなら、これをする
実行中に
その場でAIが考えた実行内容を、AIが判断
- プロンプトで与えられた目的のために、これをする
システムがその判断にしたがって実行
SUCCESS
システムがAIの判断にしたがって実行
SUCCESS
判断が間違っていても、処理そのものは成功する。
実行される可能性があるのは
定義されている実行内容のみ
実行される可能性があるのは
AIが考えうる無数の実行内容
03 / THE LIMITS
AIの実行を、どう守る？
一つの対策だけで、AIの実行全体を守れるでしょうか。
BLOCK
危険な操作を、実行前に止める。
できること
明らかに危険な操作なら、ルールで止められる。
それでも残る問題
業務上正しいかどうかまで、すべてルールにはできない。
APPROVAL
重要な操作は、人に確認する。
できること
AIだけに任せたくない操作を、人が実行前に確認できる。
それでも残る問題
承認した操作の結果まで、安全とは限らない。
RECORD
AIが何をしたのか、記録する。
できること
何が実行され、何が起きたのかを確認できる。
それでも残る問題
記録だけでは、問題のある実行を防げない。
RECOVER
問題が起きたら、元に戻す。
できること
変更や削除など、復元可能な操作なら元に戻せる。
それでも残る問題
送信や外部処理など、元に戻せない実行もある。
どれも必要。でも、どれか一つだけでは足りない。
AIの実行は、実行前から実行後まで続いています。
だから、その全体をひとつの流れとして扱う必要があります。
だから、その全体をひとつの流れとして扱う必要があります。
04 / GOVERNANCE
足りなかったのは、「AIの実行をやらせっぱなしにしない」という考え方。
従来のシステムは、「判断するもの」が実行経路に入ることを前提にしていませんでした。AIによってその前提が変わった今、判断から実行、その後までを横断して扱う新しいレイヤが必要です。
判断
Block
危険な判断を、実行させない
実行前
Approval
重要な操作は、人が判断する
実行中
Record
何をしたかを、すべて残す
実行後
Recover
起きたことを、元に戻す
AI実行統制
AI Execution Governance
個別の対策ではなく、AI実行のライフサイクル全体をひとつのレイヤとして扱う。
05 / PLATFORM
AIと業務の間に、HarmonAIzeを。
AI実行統制を、ひとつのプラットフォームで。
HarmonAIzeは、AIとOS・アプリケーション・ファイル・Webサービスの間に入り、AIによる実行を接続・統制・記録する AI ↔ OS Platform です。
製品について詳しく →
AI
HHarmonAIze
つなぐ守る記録する戻す
HARMONAIZE
AIに仕事を任せられる環境を、すべての人に。
つなぐ。守る。記録する。戻す。