Claude on Amazon Bedroc
Claude使える!って喜んだものの
ChatGPT対抗のClaude、10万トークン扱えるということで楽しみにしていました。
申し込みをして待っていたら先日、通知が来て喜んでいたんだけど、UKまたはUSからのアクセスかつSMSが受信できる電話番号が必要ということで断念(VPN使ったりいろいろやってみたんだけどだめでした)。じゃあなんでこんな通知来たんだろう?申込みのときに国も聞かれて日本って答えていたよ。
Bedrock で使えるようになった
がっかりしているのもつかの間、Amazon の生成AIサービス Bedrock がリリースされ、Claudeが使える。
これで事実上、Claudeは世界中で使えるようになりました。
さっそくちょっと試してみる。
Bedrockのコンソール内、Model accessからClaudeを有効に。その際、所属や用途など聞かれます。その後、数分で使えるようになりました。
Colabでちょっと試してみる
Colab上で動かしてみます。
認証ファイルはグーグルドライブ上に置いてマウントします。
from google.colab import drive
drive.mount('/content/drive')
import os
path1 = "/content/drive/MyDrive/aws/config"
os.environ['AWS_CONFIG_FILE'] = path1
path2 = "/content/drive/MyDrive/aws/credentials"
os.environ['AWS_SHARED_CREDENTIALS_FILE'] = path2
boto3を使ってAPIを呼び出します。
!pip install boto3
import boto3
import json
bedrock_runtime = boto3.client(
service_name='bedrock-runtime',
region_name='us-east-1'
)
modelId = 'anthropic.claude-v2'
accept = 'application/json'
contentType = 'application/json'
prompt = """
Human: ClaudeのChatGPTに対する優位と不利について具体的に教えてください。
Assistant:
"""
body = json.dumps({"prompt": prompt, "max_tokens_to_sample": 8000})
response = bedrock_runtime.invoke_model(
body=body,
modelId=modelId,
accept=accept,
contentType=contentType
)
response_body = json.loads(response.get('body').read())
print(response_body)
返答の一例。
トークン数のカウントは公式ライブラリで
トークンのカウントの方法はAWS内には用意されていないようです。
公式のライブラリ使いましょう。
from anthropic import Anthropic
client = Anthropic()
client.count_tokens('Hello world!') # 3
ClaudeとChatGPTの比較をやる予定
今後、ClaudeとChatGPTの比較をやっていきたいと思います。
10万トークンを扱えることが活きるテーマでやりたいですね。
この記事が気に入ったらサポートをしてみませんか?