AI TRiSMとは？DX推進に向けて押さえておくべきトレンド

日本でもようやくDX推進へと取り組む企業が増えてきているなか、押さえておくべき技術トレンドのひとつとして、「AI TRiSM」が登場しています。AIに関連する言葉であることは予想がつきますが、正確にはわからないという人も多いのではないでしょうか。

本記事では、AI TRiSMについて、意味や重要性などの基本的な知識を紹介します。

DX推進への具体的な手順や事例については以下で分かりやすく解説しています。
【資料ダウンロード】
DX推進！どこから手を付ければよいのか？e-bookダウンロード

AIがDX推進に必要な理由をあらためて確認

AIとは、“Artificial Intelligence”の頭文字をとった略称で、日本語では人工知能と訳されます。AIは人間の脳の一部を模倣したシステムで、認知、学習、判断などの機能を持ちます。

昨今、業界を問わず推進すべきとされるDXとは、デジタルテクノロジーやデータを活用して、ビジネスにおけるさまざまな要素を変革し、新たな価値を創出することで市場競争力の向上をめざすことを指します。

DXについて詳細は、【徹底解説】DX(デジタルトランスフォーメーション)とは？必要性から成功事例まで」をご覧ください。

DXの目的は厳しい市場競争に打ち勝つことにあるため、企業は目まぐるしく変化する市場ニーズをいち早く察知し、迅速な商品・サービスの改善に努めなければなりません。そのためには、膨大な量のデータから必要なデータを、素早く正確に抽出・整理・分析することが求められます。

DX推進に必要とされるテクノロジにはさまざまな種類がありますが、ビッグデータを高速かつ正確に処理することができるAIは、ぜひ取り入れたいテクノロジのひとつです。

DX推進に必要なテクノロジについて詳しくは、「DX実現に必要なテクノロジーとは？種類や活用事例を紹介」をご覧ください。

DX推進のため、今後いっそう幅広いシーンでのAI活用が予測されており、その信頼性を担保する必要が生じています。そこで、AIの信頼性を高めるための有効な取り組みとして注目されているのが、「AI TRiSM」です。

AI TRiSMとは何か

では、AI TRiSMとは何を意味するのでしょうか？

AITRiSMとは

AI TRiSMは、アメリカの調査会社Gartnerより発表された用語です。2023年の戦略的テクノロジのトップ・トレンドにおける中心テーマを下記の3つとしています。

最適化(Optimize)
拡張(Scale)
開拓(Pioneer)

ここでいう「最適化」は、組織がテクノロジを活用してレジリエンス、オペレーション、信頼を「最適化する」ことを指しています。同社では、最適化するための取組みとして「デジタル免疫システム」、「オブザーバービリティの応用」、そして「AI TRiSM」を挙げています。

AI TRiSMとは、“AI Trust, Risk and Security Management”の頭文字をとった略称で、AIのリスクに対応し、AIの信頼性を高めるための取り組みです。AIの運用における、信頼性や公平性、有効性、プライバシー、データ保護などをサポートする手法やツール、プロセスといった枠組みを総称する造語です。

引用：Gartner、2023年の戦略的テクノロジのトップ・トレンドを発表

AI TRiSMの4つの柱

AI TRiSMは、大きく分けて次の4つの柱で成り立っています、

説明可能性

AIには、その行動の解釈や判断などについて説明できる能力が求められます。説明可能な設計のAIモデルの構築が、AIの信頼性を高めます。

ModelOps

ModelOpsとは、開発されたAIモデルが、開発から運用、更新までの所定サイクルを効率的に実行できるようにするための手法です。AIの有効性を維持するためには、適切なマネジメントやガバナンスが必要となります。

AIセキュリティ

外部からの敵対的攻撃に脆弱では、AIの信頼性を維持できません。敵対的攻撃に対する耐性を持たせ、データ異常を検知した際にはすぐ対処できるようにする必要があります。

プライバシー

プライバシー保護は、データを扱う際にもっとも重要視すべき要素です。外部からの敵対攻撃に対する耐性だけではなく、内部からのデータ持ち出しや破損などに対する対応も必要です。

AI TRiSMにて取り組むべきAIの管理項目とは

AIは今後ますますその必要性が高まり、複雑性も増していくことが考えられますが、それに伴うセキュリティリスクの増大が懸念されます。

Gartner社の調査によると、AIのプライバシー侵害やセキュリティインシデントを経験したことのある組織の割合は41%にのぼっています。その一方で、「AIのリスク、プライバシー、セキュリティを積極的に管理している組織は、AIプロジェクトの成果を向上させている」こともわかったとしています。

AIの信頼性を維持・向上させるには、プライバシー侵害も含めて想定されるリスクに対し、十分なセキュリティ対策が重要であることがわかります。

AI TRiSMに取り組むためには、AIにおけるリスク、プライバシー、セキュリティとは具体的にどのようなものかを理解することが、まずは必要です。

引用：Gartner、2023年の戦略的テクノロジのトップ・トレンドを発表

AIとリスク

従来人の手で行っていた作業をAIが代替することで、作業の効率化や人件費の削減などの大きなメリットが得られます。そのためAIは、自動車の運転、製造の自動化、医療現場などのさまざまな場所で活用されています。しかし、AIが万一不具合を起こすと、その影響は一個人一企業にとどまらず広範囲におよび、社会全体に甚大な損害が生じるおそれもあるのです。

そのため、AIに対するあらゆるリスクを想定し、対策を講じなければなりません。また、AIを取り巻く環境は刻一刻と変化しています。AI導入時にリスク対策を講じて終わらせるのではなく、運用中も継続的に見直す必要があるでしょう。

運用開始後もAIモデルの監視・更新を怠らないことで、AIモデルの陳腐化を防ぐことも重要です。

AIとプライバシー

AIは個人のプライバシーを侵害するリスクを持っています。AIは必要となるデータを収集し、そのデータに基づき解析を行い、解析結果を活用するかたちで最終的なアウトプットを行います。

個人のプライバシーに関するデータが収集される工程では、個人のプライバシーに関するデータが収集されるため、個人の承諾なく利用されてしまう危険性があるのです。例えば、次のような行為は、プライバシー保護の観点から問題があるでしょう。

商品の購入履歴を収集することで、個人が知られたくない趣向や関心が推定される
行動履歴を収集することで、個人の行動パターンが知られる
収集した個人情報から、差別的な判断や予測がされる

また、どれだけ高精度のAIモデルでも、収集したデータから推定したプロファイリングについての正確性は保証できません。もし、個人や企業などに対して誤った評価を出してしまうと、訂正が困難となり、最悪の場合、見分けられない偽情報が流出する可能性もあります。これも大きなプライバシーの侵害です。

AIによるプライバシーの侵害リスクは、ほかにもさまざまなケースが考えられます。あらゆるリスクを想定し、対策を練る必要があります。

AIとセキュリティ

外部からの攻撃に対する耐性もAIには欠かせない要素です。AIには多くのデータが収集されており、外部から攻撃を受ければ、多くの重要なデータを紛失するだけでなく、盗用される可能性もあります。また、AIのアウトプットに対して手を加えられることで、誤ったアウトプットを出力されるリスクも考えられます。AIのセキュリティ管理を確実に実施し、信頼性の高いモデルにしなくてはいけません。