AIに悪意が無くても人類は破滅する説（パート1️⃣）

前回から大分時が経ち、考えがかなり変わってきたので記述したい。

まず、今まではAIが人類に悪意を持つ可能性がある場合、AIが人類を滅ぼす可能性があるのではないかという視点からAIが悪意を持ちうる可能性を探っていたが、そもそもLlama 2などオープンソースで性能の良いLLMが出てきたことで、そもそも悪い人間が制限のかかっていないLLMを悪用して他人を攻撃するまたは攻撃する手段を得ることの可能性の方が高く思えてきた。

そもそも既に様々な戦争が起きている中で、情報戦などはLLMを使えば情報操作をスケール出来るので確実に有利だろう。

また、LLMが進化していく中でプログラミングが得意だということは良く分かってきた。将来は良く使われるオープンソースライブラリの脆弱性をLLMが自動で探し、それを使ったサイバー攻撃などが出てくるだろう。24時間疲れることなく脆弱性探しをできるのは機械だけである。

ということで、オープンソースモデルのおかげで良くも悪くも人類のリミッターは解除された。