卒論何したの?
前に卒論悩み中〜って記事出したけど卒業はしたいんでなんとか卒論書きましたよ~ってのがこの記事だよ~
まず今回初めての論文執筆を終えて
→LLMの性格を自分に寄せる!みたいなのをコンセプトに研究しました!
終わってみてこんなんでいいんかな〜って思う出来にはなっちゃったけど周り見てみると案外こんなクオリティでいいんか〜って思えた。最初はもっと凝り固まった形式でやるものなのかと思ったけどうちの研究室は何やってもいいよ〜スタンスで最後まで行った。そしてなんもお題ないことがこんなにも大変だと実感したね。ってことで卒論卒論いうけど大層なすんばらしいものではないなって最後に思った。これは今回のことについて言っているからね。大変な発見をする卒論だってある。たぶん。
あんまプレッシャー感じて卒論をでっかい壁って考えなくてもちゃんとやること地道にやってたらなんとかなるよ〜ってのを言いたかった!
ってことで本題、ちみはなんでこれをしたん?
目的
LLMが一定の性格を示しうることが今までの論文でわかってる。(chatgptは基本励ましてくれる性格とか)
さらに、character.aiなどアニメキャラの性格を反映して、返答をしてくれるChatbotがある。
→今までの研究、サービスでは性格の評価を他人が感じるキャラクターの性格という感じで自分自身が理解している自分の性格を反映できているのか?という疑問
→そこから筆者自身が理解する筆者自身の人格はLLMに移植可能なのか?
→じゃ自分の情報から再現されるLLMの人格は自分の思う自分の人格と一致するのか?
という目的で実験だー
やったこと
自分の日常生活のテキスト抽出
どういう質問にどのように返答するか(SNSの情報など)
自分の大切にしてる考え方など性格が出そうな質問に対する返答など
→このテキスト情報を対話形式(1問1答形式)にしてファインチューニングする!っていうのを具体的に行った。本当は自分の記憶情報や価値観の情報を文献情報みたいにしてチューニングしたかったけどそんな技術力がなかったのでとりあえずできるものからということでファインチューニングを使用しました!
この実験をやってみて訓練データの収集やモデルの再訓練が不要なプロンプトチューニングだったりプロフィール情報から個性を生成するNTTがやってるアダプタ技術だったりを作って比較みたいなっこともしたかったけど時間的に無理だったので甘えに甘えファインチューニングだけやった。
↑↑↑
ここまでで実際にどうやって個性なるものを発現させるかを説明してきたのですがじゃその個性は一体どう判断すんだい???ってね
これめちゃくちゃ迷った。先行研究ではMBTIやBig5と呼ばれる性格診断をもとにキャラクターの個性の研究をしていたんだけど実は科学的根拠に乏しいっていうのがこの性格診断たちのみそでふむーと一瞬考えたけどそんな考えている時間ないのでとりあえずこの2つを使って今回は個性の判断を行いました。
実験の概略図
結果
詳しくは論文見てって感じなんだけど(そのうちあげると思います)
→ファインチューニングによって性格は改変しゆる。性格に幅が生まれた。
→望む性格に改変はできなかった。