市民

最近、転職して、DXエンジニアになりました。 インフラ系の記事はこれからなくなるかもしれません。

市民

最近、転職して、DXエンジニアになりました。 インフラ系の記事はこれからなくなるかもしれません。

falcon-mamba-7B

falcon-mamba-7Bを触ってみた まだ、英語でしか使えないみたいですが。 以下はcolab（有料）で実行したものです。ランタイムタイプはA100です。 Hugging Faceのurl 公式にある通り、transformersをアップデートします。ランタイムの再起動が求められたら再起動してください。 !pip install --upgrade transformers 次にモデルをロードしますが、これも公式通りです。贅沢にも32bitモデルをロードしてい

市民

    • 言語生成AIの使いどころ

      カスハラ対策とかどうだろう 最近の言語モデルは音声でもやり取りが出来つつあるので、そのまま使わない手はない気がします。 少しだけコールセンターで働いていた経験があるので、なんとなく、このお客様は「言いたいだけ」、なのと、「期待していた通りではない」の２通りにクレームを分けることができる気がしていました。であれば、前者は人間が対応する必要なないと思います。あ、あと、「ストレス発散」という最も嫌われるタイプもいましたね。というわけなので、お客様が「期待していた通りではない」とい

      市民

      • 言語生成AIとの付き合い方

        少し幻滅感がみられるようになった 生成AI、特に言語系に対する幻滅感が出てきた気がします。最初に業界の人があおったとは思っていませんが、やっぱり、仕事の何割かが置き換わるというレポートがよくなかったのかなぁ、とは思います。そのあと、これは周辺業界の人も悪い気がしますが、何でもできるみたいな幻想を広めてしまった。というのが一番の原因ではないかと思います。 実際、私は単なるユーザーサイドの開発者にすぎませんが、現実世界から今の生成AIは少し遠いところにいるかなと思っているのは

        市民

        • AssistantServiceのStreamingの話

          後半戦のurl どっちが正しいのかわからない さて。まだbetaが取れていないAssistantServiceですが、StreamingをするときにEventHandlerを使えという公式見解があります。 一方でAPI Reference - OpenAI APIここにはStream:Trueにするだけで簡単にSSEになることができるとも書いてあります。 最初のEventHandlerは挫折した 最初にhttps://platform.openai.com/docs

          市民

          AssitantServiceのEventHandler実装

          挨拶 今更なのですが、私の記事を読んだことのある方は誰しも、「こいつ理屈わかってないな」と思われると思います。その通りです。私は工学部出身のしかも機械科卒業なので、「動けばOK」プログラマーなのです。現に同僚からは「競技プログラマー」といわれているぐらいです。なので、「記法」にこだわりはありませんし、「アルゴリズム」にもこだわりがありません。ですので、これからご紹介するのは「動くだけ」のものになります。また、抜粋ですので、コピペで動くようにはなっておりません。申し訳ございま

          市民

          AssitantServiceのEventHandler実装

          市民

          lambdaのレイヤー作成（Docker必須）

          色々ネットにあったけど。。。 まず、一番多かったのはcloud9を使うという記事。これはまぁ、そうだよね、なんですが、pythonをコンパイルしろと。。。そして、ローカルにアマゾンlinuxを持ってくるというのも多かったんですが。。。 そのどちらの方法でもpsycopg2はうまくいかなかったです。 私の無知のなせる業で、psycopg2-binaryがあることに後々気づくことに。 GPTに聞いたら答えてくれたんですけどね。 ということで、一番手っ取り早い方法は、python

          市民

          lambdaのレイヤー作成（Docker必須）

          市民

          sshtunnel+mysql.connect

          自分のPCからデータをawsのrdsにアップロードしたい 前提条件としてrdsは会社のPCからは直接見られないという制限が自社にあったとした場合、sshトンネル経由で接続する必要があります。というかその制限してない会社はないと思いたい。 a5mk2とかだと、ssh2トンネルとか利用して画面上は見られますし、そこからデータも入れられるので、データが少ない時はいいのですが、excelのデータを加工しながらロードしたいとかそういうニーズは中小企業はまだまだあって、その場合に半日も

          市民

          sshtunnel+mysql.connect

          市民

          After Dify

          Dify is all you needか？ RAGがこんなにも簡単にできてしまうDifyに驚きつつ、1か月過ぎまして。その後、ワークフローなどの機能も追加されたようですね。ワークフローは一部ではノーコードLLMなどという面白いネーミングを付けていることもあるようです。とはいえ、Dify is all you needではなかったです。 計算がとっても苦手というか事実上できない LLMの使い方としては特に間違えてはないと思うのですが、決算書ではなく、決算データを与えて

          市民

          After Dify

          市民

          Difyの破壊力

          Difyをご存じですか？Difyとは何物か 彼ら曰く です。 イノベーションエンジンかどうかは私にはわかりませんが、LangGenius社というアメリカに登記されている会社が提供しているオープンソースです。そして、GPTsキラーになりうる製品です。 GPTsキラーとして ここではGPTsはOpenAIが提供する有料サービスを総称して言ってしまっています。そのGPTsがやってくれることとほとんどをこのDifyは行うことができます。そして、GPT Teamが$30/ユー

          市民

          Difyの破壊力

          市民

          人生初のChrome拡張作成

          Chrome拡張はJavascriptで書くそうです。 必要なファイルは次の通りです。 やりたいことで変わるので、この辺りは生成AIと相談しながらやりました。manifest.json（ファイル名は固定） popup.html（ファイル名は何でも可） popup.js（ファイル名は何でも可） background.js（ファイル名は何でも可） contents.js（ファイル名は何でも可） iconファイル（ファイル名は何でも可） 概要図 今回は拡張の中のselec

          市民

          人生初のChrome拡張作成

          市民

          AWSのEC2がTeratermでログインできない。

          AmazonLinuxのバージョン 久々にインスタンスを作ったら、ec2-user２でログインできない現象が発生しました。色々ごちゃごちゃ調べたところ、AmazonLinux2023はssh-rsaを利用する場合はTeratermのver5系でないとつながらないとのことでした。 今回は、バージョンアップをして解消しました。 ed25519で作成した場合はver4系でも無事につながります。 そういえば、gitはed25519をデフォルトにしていたような。 出典はEC2へのT

          市民

          AWSのEC2がTeratermでログインできない。

          市民

          Azure File SyncでARM Discovery URLを入れろ、ではまった件

          概要 Azure File Syncはバックアップとして有効な手段だと私は信じておりますが、原因不明で時々Azure Resource Manager (ARM) Discovery URLを入力と出ます。このURLのことを調べてみてもさっぱりわからず、対処法だけ残しておこうかと。なお、Azure File SyncについてはこちらのURLで説明を読んで下さい。 簡単にまとめると、 １．ストレージアカウントでファイル共有を作る ２．Market PlaceでAzure F

          市民

          Azure File SyncでARM Discovery URLを入れろ、ではまった件

          市民

          DCHPサーバにオレンジのチェックが付いている

          Microsoftのホームページによれば、 Failover is configured on the DHCP server ということなのですが。 実際、これではなんだかわからなかった。何のことはなく、過去にフェールオーバーしていたDHCPがフェールオーバーパートナーとして残っていただけでした。そのサーバはすでにいないので、消して、レプリケーションし直したら、直りました。 掃除は大事ですねという話でした。 DHCPのIPv4のプロパティにフェールオーバーのタブがあるので

          市民

          DCHPサーバにオレンジのチェックが付いている

          市民

          ChatCompletionでの過去履歴の渡し方

          Assistantでどんどんつなぐのが正解らしい たとえば、ずっとシリーズでやってるTeamsのbotでは過去の回答をDB 入れています。 preanswer = []prequestion = []result = db.session.query(history).filter(history.createdate>=mins,history.uuid==userid).order_by(history.createdate.desc()).all()for res

          市民

          ChatCompletionでの過去履歴の渡し方

          市民

          グループポリシーでBluetoothを制限する

          グループポリシーオブジェクトではできません。 Windowsのグループポリシーオブジェクトには直接的にBluetoothをオフにする設定はありません。 レジストリで設定します。 レジストリキーは HKEY_LOCAL_MACHINE\SOFTWARE\Microsoft\PolicyManager\default\Connectivity\AllowBluetooth こちらです。 値が value(REG_DWORD)に0を設定します。（2だと有効になります） こ

          市民

          グループポリシーでBluetoothを制限する

          市民

          ExcelからChat-GPTを利用する

          仕組み curlでもapiを利用することができるので、それをexcelのvbaへ組み込もうと思います。ただし、やることはOpenAIもAzureOpenAIも変わらないのですが、OpenAIで利用できるのはAPIの料金を支払っている場合だけです。払ってない場合は、Error429:"You exceeded your current quota, please check your plan and billing details."こんなエラーになります。また、Chat

          市民

          ExcelからChat-GPTを利用する

          市民