これまで
答えるAI
質問に答える。文章を書く。要約する。
HHarmonAIze
01 / EVOLUTION
AIは、すでに世界を変え始めている
AIは、会話するだけの存在ではありません。
AIが「判断し、実行する」時代が始まっています。
現在
判断するAI
状況を読み取り、次に何をするかを自ら決める。
そして、いま
実行するAI
決めたことを、実際のシステム上で実行する。
ファイル
アプリ
サービス
02 / NEW PROBLEM
そして、新しい問題が生まれた
どれだけAIが進化しても、その判断が常に正しいことを前提にはできません。
そしてAIがシステムを動かす世界では、間違った判断による実行も、システム上は「正常な処理」として完了します。
従来のシステム
人間目的を理解して判断する
判断
システム指示された処理を実行する
実行
実行の成功 ＝ 判断の成功
判断した人間が、結果に責任を持てる
AIが実行するシステム
AI自ら判断する／正しさは保証されない
判断 ?
システム判断の正しさを検証せず実行する
実行
実行の成功 ≠ 判断の成功
間違った判断も「正常終了」として記録される
03 / MEASURES
AIの実行を、どう守る？
AIの判断が常に正しいとは限らない。
では、その実行をどう守ればいいのでしょうか。
危険な操作を止める
すべての判断をルールにはできない。
重要な操作を、人が承認する
人間も判断を間違える。
実行を記録する
記録だけでは、起きたことを防げない。
問題が起きたら、元に戻す
すべての操作を元に戻せるわけではない。
どれも必要。でも、どれか一つだけでは足りない。
AIの実行は、判断から実行後までひと続き。個別の対策では、そのつながりを守れない。
04 / GOVERNANCE
足りなかったのは、「AIの実行をやらせっぱなしにしない」という考え方。
従来のシステムは、「判断するもの」が実行経路に入ることを前提にしていませんでした。AIによってその前提が変わった今、判断から実行、その後までを横断して扱う新しいレイヤが必要です。
判断
Block
危険な判断を、実行させない
実行前
Approval
重要な操作は、人が判断する
実行中
Record
何をしたかを、すべて残す
実行後
Recover
起きたことを、元に戻す
AI実行統制
AI Execution Governance
個別の対策ではなく、AI実行のライフサイクル全体をひとつのレイヤとして扱う。
05 / PLATFORM
AIと業務の間に、HarmonAIzeを。
AI実行統制を、ひとつのプラットフォームで。
HarmonAIzeは、AIとOS・アプリケーション・ファイル・Webサービスの間に入り、AIによる実行を接続・統制・記録する AI ↔ OS Platform です。
製品について詳しく →
AI
HHarmonAIze
つなぐ守る記録する戻す
HARMONAIZE
AIに仕事を任せられる環境を、すべての人に。
つなぐ。守る。記録する。戻す。