AIやDXに関する政策とか市場の情報整理2024.11版
Gartner曰く、エージェントAIをはじめ、このテクノロジーのトレンドは暫く発展的に続いていくのだろうな
とすると政策的には、これまでも断片的に取り上げてきたけれど、以下の流れは続いていく訳で
民間企業も大手や先進的なところは進めていこうとする。
まあ個人的にはMUFGの取り組みは違うように思うけれど。文面だけ見るとこれまでやっていた専門家の将来予測などが対象と読めるが、それらは以前紹介した以下の論文のようにLLMには必ずしも得意でない分野に該当するから。Open AIが新技術を引っ提げてand費用持ち出しでくるならわかるが。
ただ生成AIが世の中で普及して当たり前になっていくと、そこには悪意を持った人たちが入り込んでくるようにもなる。学習するweb上のデータの中に悪意のある文言などなど忍び込ませたら、こんなこともできてしまう。
ChatGPTにMongoDBと通信するFlaskアプリ作らせたら、ユーザリクエストにしれっとeval使ってて怖いってなった。
— Shøta Shinogۜi🔑 (@Sh1n0g1) October 21, 2024
きれいなRCEの脆弱性。。 pic.twitter.com/x8SySMZI3l
こちらはLLMによる学習を支援する人たちの癖が反映されてますね論文ですが、悪意あるデータの混入ではないけれど、偏りが生まれる口はココにも。
@TJO_datasci さんの記事(https://t.co/Oy8U1KohMC)のおかげで沢山の方に目を通していただいている"delve論文"ですが、結果を支持する報告がpreprintとしてあがってたので共有します。
— 松井健太郎 睡眠・精神医学 (Kentaro Matsui) (@matsuikentaro1) June 3, 2024
"The Impact of AI on Scientific Literature: A Surge in AI-Associated Words in Academic and Biomedical… https://t.co/03vKd9bSQy pic.twitter.com/llUagyjRLY
それでなくても今のタイプのAIは100%正しいということはあり得ないので、AIを過度に信用することによるリスクはある。
それでも日本が生成AI/LLMを中心にデジタル/データサイエンティスを導入していくべきと僕が考える理由は、世界と比べて明らかに遅れている点にあります。ダウンサイドリスクばかり気にして一歩も進まないことが最大のリスクという姿を目の当たりにし続けてつらい。。。
マッキンゼーによると、世界の中で日本だけが新型コロナをトリガーとしたDXに出遅れているとのこと。
— コリー (@Collie_Collie_) November 2, 2024
その要因を分析すると、本来イネーブラーであるはずのDXがコストと勘違いされていることがボトルネックになっているようです。(IT投資の状況やIT人材の雇用状況から分析)https://t.co/4ZkNQCtMDE pic.twitter.com/nODzAXcAc2
最後はAIベンチャー経営者が自ら語ってくれることでこそ納得感を得られる、という言葉。
「資金調達が順調に進む中でも、足元のAIへの資金の流れは『バブルだ。必ず反動がある』と懸念を示した。AIのビジネス展開についても、『 黒字化するなど持続可能なビジネスモデルを見つけた企業はない』とし、米国のAI企業とは違う独自性が必要だと強調した。」https://t.co/C8n3JouBTU…
— Sakana AI (@SakanaAILabs) October 29, 2024
やっぱそうだよな、、、今の生成AIサービスどこもビジネスモデル的にカチッとできてないよな。。。その状態で頑張ってることには敬意!
もちろん大資本、または大資本に支援されてるベンチャーだからこそできることなので、ビジネスとしての先行きと景気による投資余力の影響によって変わるのだろう。今は量子コンピュータの世界が変わっているらしいが、それに比べればはるかに良い生成AIも景気が悪化したらわからないな。。。