#信頼できるAI のビデオ配信始めました。

AIに関わる ちょっとした疑問にお答えする #信頼できるAI にかかわるビデオを Twitterにて配信開始しました。ホームページとあわせてご覧ください！
このブログでは、今まで配信した 記事をまとめてご覧頂くことができます。続々と配信していきますので、もし何か「これが知りたい」といったようなご要望がございましたら、是非お寄せ下さい。

従来のシステムとAIの違いって何？

AIのシステムはパチンコ台をイメージすると分かりやすいかも知れません。
釘を調整することで、うまく玉がチューリップに入ったり入らなかったり・・・
気付かぬうちに、釘が曲がって歪んでしまうこともありますよね。

 

AIの学習時と運用時の環境の違いって何？

学校で勉強して習ったことと、実際に世の中に出て経験することは全く違う・・・
あれは一体何だったんろうか、と思ったりした記憶はありませんか？
AIでも同じことが当てはまります。

 

AIの学習データと運用データの違いって何？

受験問題集には答えが付いて答え合わせができますが、
お受験本番の問題には、当然のことですが、答えは付いていませんよね？
運用中のAIが間違えてしまったら、一体どうやって答え合わせしたら良いのでしょうか。

AIの学習時に発生する問題の具体例（その１）

もしも機械学習システムの蓋を開けて、中を見ることができるとしたら
実はこんな「まだら模様」になっているかも知れません。
でもAIにフタなんて付いていないし・・・

AIの運用時に発生する問題の具体例（その１）

企業が大きくなればなる程、組織間の連携漏れって、よく起こりますよね？
そうした人間にとってはちょっとした、些細なミスが、
AIにとっては大きなダメージとなります。

運用中のAIの精度監視って何で難しいの？

AIには、人間がなかなかできないような
高速のあるいは大量の処理を任せますようとしますよね。
でもそのAIが間違った判断をしてしまった場合
一体誰がどうやってそれを見つけたら良いのでしょうか？

AIの学習時に発生する問題の具体例（その２）

AIは導入したら終わりでなく、導入後も適切な再学習を行い
「育てていく」ことが重要です。
一方で、良かれと思って手を尽くして改善した積りが
上手く行かないことも発生します。

AIの信頼性リスクに関わる世界各国の動き

AIの信頼性にかかわるリスクを、どのように検証し、コントロールできるかは、
今後の社会経済の根幹にかかわる、重要課題です。
先週ホワイトハウスからも新たな発表がありました。
 

AIの運用時に発生する問題の具体例（その２）

人間の頭で考えられるのって、精々３次元ぐらいまでですよね？
AIへの入力のデータ項目は、100項目以上に及ぶこともあり
その組合せ異常を見つけるのは極めて困難です。

AIの品質マネジメントに立ちはだかる「壁」

人間では対応しきれない大量のデータを処理するAIが
予期せぬ間違った出力をしてしまった場合
一体、誰がどうやって見つけたら良いのでしょうか？

AIの学習時に発生する問題の具体例（その３）

受験問題集の答えの方が間違っていて悩んだ経験、皆さんもありますよね？
AIの学習データのラベルも、付け間違っていることは当然あり得ます。
ラベルの付け間違えが自動で見つけられたら・・・
なんて思うことありませんでしょうか。

AIの運用時に発生する問題の具体例（その３）

受験問題集は解けたのに、いざ受験本番になったら、見たことがない問題が出て
頭が真っ白になった・・・という経験ありませんか？
私はそれで駿台にお世話になった一人です。
AIでも同じようなことが起こります。

【第12弾】AIに対する新たなセキュリティリスクとは？

信頼していたAIが騙されてしまったら・・・
そんなSF映画に出てきそうな話が既に技術的には実現可能です。
AIに対するアタックは、従来のサイバーセキュリティ技術では
全く対応できず、新たな対応が必要です。

画像AIの弱点について

開発環境ではうまく動いていた画像認識用のAIが
運用に出したら思い通りに精度が出ない
ということはありませんか？

大規模言語モデルの導入にあたって困っていることはありませんか？

大規模言語モデル (LLM) のアプリケーションを安全に利用するためのツールを
GitHub上でOSSで公開中です。是非お試しください！