日本発　AIアライメント

金井　ただ最近、人々の意識は変わりつつあります。その要因のひとつとなっているのが「Scaling Law」の発見です。この法則によると、言語モデルの性能はニューラルネットワークをただただ大きくしていくだけで、いくらでも伸びる余地がある。言い換えれば、開発費をかけてニューラルネットワークのサイズを大きくすればするほど、際限なくAIの性能が向上していくということになります。

AIの開発停止も議論されるいま、日本発「AIアラインメント」の実践が始まっている

おいおい、どうなるんだ、これから。
人工知能暴走は近いのか。
際限なく、　ではない。際限を止めないと、人間の欲望なんてキリがないんだから。これは人間への挑戦なんだよ。人間を更に高尚な存在に高めるためのね

金井　一言で説明すると、AIを安全に利用できるようにするためにAIが利用者の目的に沿った挙動を示すことを保証するにはどうしたらいいかという話です。