小規模言語モデルopen-calm-smallを使ってみた

パラメータが160M（0.16億？）という小ささのopen-calm-smallを使ってみました！

import torch
from transformers import AutoModelForCausalLM, AutoTokenizer

model = AutoModelForCausalLM.from_pretrained("cyberagent/open-calm-small", torch_dtype=torch.float32)
model = model.to('cpu')  # モデルをCPUに移動
tokenizer = AutoTokenizer.from_pretrained("cyberagent/open-calm-small")

inputs = tokenizer("AIによって私達の暮らしは、", return_tensors="pt").to(model.device)
with torch.no_grad():
    tokens = model.generate(
        **inputs,
        max_new_tokens=1000,
        do_sample=True,
        temperature=0.7,
        top_p=0.9,
        repetition_penalty=1.05,
        pad_token_id=tokenizer.pad_token_id,
    )
    
output = tokenizer.decode(tokens[0], skip_special_tokens=True)
print(output)

CPUで十分です。

AIによって私達の暮らしは、

というプロンプトに対してどのような返答がくるでしょうか。
4連発いってみます。

AIによって私達の暮らしは、社会から保護されている。そして、私たちもまた、社会から保護されている。 この私たちの社会を守るために、私は日々闘っています。 私は今、医療従事者としての使命を全うし、また、自分自身も病気と向き合うことの大切さを学びました。 今、私達が直面している問題は、医療従事者の過酷で、深刻な問題です。 私たちの仕事は、医療従事者の命と尊厳を守るため、その仕事の責任を果たすことです。 その責任を果たすために、私達は、医療現場において、何ができるかを考え、実践しています。 「医療の現場で、私たちはどんなことをしているのか」 「どんなことをしているのか」 「私たちが何をしようとしているのか」 この3つを、私が考える上で大切なキーワードにしています。 医療の現場では、患者さんが「なぜそう思うのか」、医師や看護師が「なぜそう考えるのか」を、 言葉ではなく、事実に基づいて説明しなければならない。 また、「なぜそう思うのか」に根拠がないのに、根拠に基づいた治療方針を伝えることは、 患者に不安を与え、場合によっては医師や看護師のミスを招く。 医師や看護師が「なぜそう思うのか」に根拠のない言葉を、事実に基づいて説明することは、 患者に不安を与えるだけでなく、医師や看護師のミスを招く。 医療の現場では、患者さんと医師との信頼関係が大切である。 信頼関係を築くには、患者さんや病院スタッフと信頼関係を構築することが最も重要であり、 信頼関係を構築するためには、患者さん・病院スタッフと信頼関係を構築し、信頼関係を育むことが重要である。 これは医療従事者にとってとても重要なことです。 信頼関係を築くためには、 「医療従事者が、患者さんに信頼されるよう努力すること」 「患者さんや病院スタッフと信頼関係を構築する」 「医療従事者が、患者さんに信頼されるよう努めること」 これら3つを、常に念頭に置いています。 「医療現場で、私たちは何をしているのか」 「私たちは何のために働いているのか」 「医療従事者は、患者さんにどのような役割を期待しているのか」 「医療従事者は、患者さんをどのように見ているのか」 これらは、私が考える、私が考える医療従事者像です。 医療従事者を目指す学生たちへメッセージです。 医療従事者という職業を、私たち自身が理解し、 そして理解したからこそ、私たちにできることがあると考えています。 まずは、私たちができることを考えることから始めましょう。 私たちにできることは、患者さんと医療従事者との対話です。 医療従事者として、患者さんや病院スタッフと 対話を重ねることで、より理解が深まり、 より良い医療が提供できるようになるでしょう。 医療従事者として、患者さんと対話を重ねることこそが、 私たちができることなのです。 「患者さんと医療従事者を対話する」

open-calm-small出力1発目

随分長いなと思ったら49秒かかった。
医療従事者？

AIによって私達の暮らしは、さらに便利になることでしょう。 そして、私たちは今、私たちの日常生活において、さまざまなテクノロジーとの融合が、より安全で、より便利になります。 わたしたちは、このような未来を創造するために、これからも努力を続けていきます。 「テクノロジーとライフスタイルにイノベーションを起こす」をビジョンとする株式会社D2C 代表取締役。慶應義塾大学総合政策学部卒業後、NTTデータ入社。NTTデータ社会研究所研究員を経て、現職。著書に『DXのその先へ』(日経BP社)がある。 株式会社D2C

open-calm-small出力2発目

8秒。ここで出ている会社や個人の情報はopen-calm-smallの出力であり
正確なものではない可能性があります。

AIによって私達の暮らしは、社会や経済活動に影響を与え続けていくのです。 そして、私たち一人ひとりが「自分」と「世界」というものを、しっかりと認識し、自らの力で変化・成長していかなければなりません。 そのためにも、私たち一人一人が、自分自身で考え行動し、自ら考え行動する力を身につけておく必要があります。 また、私たち一人一人の成長も促すためには、私たち一人ひとりの力が発揮される場が必要です。 そのような場で活躍できる人材を育てるには、教育研修制度の充実が必要と考えています。 「教育研修制度」とは、例えば、授業を参観したり、授業で学んだことを実際に体験したり、学んだことを実践したりと、学び合いながら学ぶことを支援するものです。 さらに、受講した授業の中で、自ら考える力を養うためのプログラム(学び合い)も実施しています。 このように、教育研修制度については、各教育機関が独自に実施しているものですので、個別に説明会を開催することもあります。 教育研修制度については、教育現場における教職員や保護者の方々にとって、どのようなメリットがあるのかをお伝えしながら、教育研修制度の意義についても説明していく予定です。 「教育研修制度」の詳細については、こちらのページをご覧ください。

open-calm-small出力3発目

明らかに訓練データの中にネットで拾ってきた企業のウェブサイトの情報が含まれていることがわかりますね。

AIによって私達の暮らしは、生活者にとって本当に大切なことを見失っているかもしれません。 『 心豊かな暮らしを! 』 株式会社 地球や未来研究所 代表取締役社長 佐藤 孝雄 株式会社 地球や未来研究所

open-calm-small出力4発目

ここで出ている企業や個人名はopen-calm-smallの出力であり
正確なものではない可能性があります。

temparetureを0.1にして試してみます。

AIによって私達の暮らしは、様々な形で変化しています。 例えば、住宅購入時の諸費用。 住宅ローンを組む際に、頭金として金融機関から借り入れる場合、頭金はいくら必要かご存知でしょうか? 頭金は、一般的に銀行で融資を受ける際、年収の3分の1までしか借り入れできません。 しかし、頭金を多く用意することで、頭金ゼロでも住宅ローンが組めるというメリットがあります。 また、頭金を用意することで、ローンの返済額を減らすことができます。 頭金とは、毎月の返済額のうち、返済期間が短いほど、金利が安くなる仕組みです。 頭金を用意することで、月々の返済額を抑えることができます。 頭金を用意することで、月々の返済額を減らすことができるため、返済期間を短くすることができます。 頭金を用意することで、月々の返済額を減らすことができます。 頭金を用意することで、月々の返済額を減らすことができます。 頭金を用意することで、月々の返済額を減らすことができます。 頭金を用意することで、月々の返済額を減らすことができます。 頭金を用意することで、月々の返済額を減らすことができます。 頭金を用意することで、月々の返済額を減らすことができます。 頭金を用意することで、月々の返済額を減らすことができます。 頭金を用意することで、月々の返済額を減らすことができます。 頭金を用意することで、月々の返済額を減らすことができます。 頭金を用意することで、月々の返済額を減らすことができます。 頭金を用意することで、月々の返済額を減らすことができます。 頭金を用意することで、月々の返済額を減らすことができます。 頭金を用意することで、月々の返済額を減らすことができます。 頭金を用意することで、月々の返済額を減らすことができます。 頭金を用意することで、月々の返済額を減らすことができます。 頭金を用意することで、月々の返済額を減らすことができます。 頭金を用意することで、月々の返済額を減らすことができます。 頭金を用意することで、月々の返済額を減らすことができます。 頭金を用意することで、月々の返済額を減らすことができます。 頭金を用意することで、月々の返済額を減らすことができます。 頭金を用意することで、月々の返済額を減らすことができます。 頭金を用意することで、月々の返済額を減らすことができます。 頭金を用意することで、月々の返済額を減らすことができます。 頭金を用意することで、月々の返済額を減らすことができます。 頭金を用意することで、月々の返済額を減らすことができます。 頭金を用意することで、月々の返済額を減らすことができます。 頭金を用意することで、月々の返済額を減らすことができます。 頭金を用意することで、月々の返済額を減らすことができます。 頭金を用意することで、月々の返済額を減らすことができます。 頭金を用意することで、月々の返済額を減らすことができます。 頭金を用意することで、月々の返済額を減らすことができます。 頭金を用意することで、月々の返済額を減らすことができます。 頭金を用意することで、月々の返済額を減らすことができます。 頭金を用意することで、月々の返済額を減らすことができます。 頭金を用意することで、月々の返済額を減らすことができます。 頭金を用意することで、月々の返済額を減らすことができます。 頭金を用意することで、月々の返済額を減らすことができます。 頭金を用意することで、月々の返済額を減らすことができます。 頭金を用意することで、月々の返済額を減らすことができます。 頭金を用意することで、月々の返済額を減らすことができます。 頭金を用意することで、月々の返済額を減らすことができます。 頭金を用意することで、月々の返済額を減らすことができます。 頭金を用意することで、月々の返済額を減らすことができます。 頭金を用意することで、月々の返済額を減らすことができます。 頭金を用意することで、月々の返済額を減らすことができます。 頭金を用意することで、月々の返済額を減らすことができます。 頭金を用意することで、月々の返済額を減らすことができます。 頭金を用意することで、月々の返済額を減らすことができます。 頭金を用意することで、月々の返済額を減らすことができます。 頭金を用意することで、月々の返済額を減らすことができます。 頭金を用意することで、月々の返済額を減らすことができます。 頭金を用意することで、月々の返済額を減らすことができます。 頭金を用意することで、月々の返済額を減らすことができます。 頭金を用意することで、月々の返済額を減らすことができます。 頭金を用意することで、月々の返済額を減らすことができます。 頭金を用意することで、月々の返済額を減らすことができます。 頭金を用意することで、月々の返済額を減らすことができます。 頭金を用意することで、月々の返済額を減らすことができます。 頭金を用意することで、月々の返済額を減らすことができます。 頭金を用意することで、月々の返済額を減らすことができます。 頭金を用意することで、月々の返済額を減らすことができます。 頭金を用意することで、月々の返済額を減らすことができます。 頭金を用意することで、月々の返済額を減らすことができます。 頭金を用意することで、月々の返済額を減らすことができます。 頭金を用意することで、月々の返済額を減らすことができます。 頭金を用意することで、月々の返済額を減らすことができます。 頭金を用意することで、月々の返済額を減らすことができます。 頭金を用意することで、月々の返済額を減らすことができます。 頭金を用意することで、月々の返済額を減らすことができます。 頭金を用意することで、月々の返済額を減らすことができます。 頭金を用意することで、月々の返済額を減らすことができます。 頭金を用意することで

open-calm-small出力5発目

訓練データの中にウシジマくんでもいたのかな…？

おしまい