![見出し画像](https://assets.st-note.com/production/uploads/images/123528861/rectangle_large_type_2_a627c5c6a102f7bfe6059121d5fb8c61.png?width=1200)
Q*(キュースター)は夜空に輝くか?
OpenAIのお家騒動が収れんし、現在解任プロセスを検証する作業が進んでいます。
過去の話は以前にも触れたのでコピペしておきます。
NPOガバナンスは法制度の問題なので長期的な改善になりますが、AI安全性については喫緊の課題ともいえます。
1つの解任説として、元取締役の一人ヘレン氏(すでにOpenAIから離脱)との確執が取り上げられました。
AIの安全性を研究する立場として提出した論文がOpenAIにとってネガティブな印象を与えかねない、ということでサムと衝突していた、という話です。
以前からSNSでは出回っていましたが、そのレポート自身は公開されていて、下記より入手できます。
この中の一文で、競合Anthropicはリリースを焦らない、という意味合いの箇所があり、それがChatGPTの安全性に疑問符をつけるのではないか?と勘繰られたようです。
そしてもう1つ噂として徐々に大手メディアも取り上げてきているのが、クーデター直前に社内で発表された”Q*(キュースター)”と呼ばれる新しいアルゴリズムです。
これが、OpenAIが目指すAGI(汎用人工知能)に近づくのでは?ということでざわざわしています。
まだ社内情報が漏洩した段階で、具体的な中身が分かりません。
1つだけ、それを紹介したメディアを載せておきます。(過渡に煽ってないので)
ようは、
Q*は、従来弱かった算数の問題を解ける画期的な技術かもしれないが、それがAGIにつながるかは不明、
という話です。
ChatGPTをずっと使っている方はご存じですが、従来算数の計算が弱かったのは事実です。
投稿時点で簡単な足し算を試してみたら、Pythonを起動してそれに計算をゆだねていました。(もちろん結果は正しい)
![](https://assets.st-note.com/img/1701649970302-xYTwDZ1Sdf.png)
ただ、計算を解くことと、より高度な数学の問題を解くというのはまだ垣根があると思います。
もう少し意地悪なことをいえば、そもそもそれがAGIの道なのか、と言われるとちょっとうなってしまいます。
これはAGIというイメージの違いかもしれませんが、あくまで汎用的な知能を目指すのなら何か特定のスキルに優れる、とは違うはずです。
むしろ近いのは、(上記記事でも例示してますが)2022年にGoogle DeepMindが発表した汎用型AI”GATO”です。
これも当時、瞬間風速で話題になったのですが、1つ1つのタスク処理が従来よりむしろ遅いということで批判もされてたりします。
結局、問題なのはAGIの定義を明確にしないことにあり、だからこそ以前にもふれたそれを可視化する活動は意義深いです。(というより必要)
Q*は、その性能がすごい!、という一部のふわっとした声しか聞こえてこないので、判断のしようがないです。
ただ、AGIが我々の脳と同じ汎用性を求めるのであれば、それが知性の夜空に輝くのは、もう少し時間が必要です。