Citadel AI (https://www.citadel.co.jp)

「信頼できるAI」の社会実装を実現する、株式会社Citadel AIの小林です。 最近ChatGPTが話題になっていますが、人間同様AIは「知らないことに遭遇すると間違えてしまう」という側面を持っています。そんなAIのちょっとした疑問に対するヒントを配信して行きたいと思います。

Citadel AI (https://www.citadel.co.jp)

「信頼できるAI」の社会実装を実現する、株式会社Citadel AIの小林です。 最近ChatGPTが話題になっていますが、人間同様AIは「知らないことに遭遇すると間違えてしまう」という側面を持っています。そんなAIのちょっとした疑問に対するヒントを配信して行きたいと思います。

LLM向けアプリケーションのOSS検証ツール「LangCheck」

生成AIを安心・安全な形で社内導入したいという方、是非ご覧ください！

Citadel AI …

    • 大規模言語モデルの信頼性向上ツールLangCheckをOSSで公開

      企業や公的機関・教育現場等で導入検討が進んでいる、大規模言語モデルを用いた業務アプリケーションについて、その信頼性を向上するツール「LangCheck(ラングチェック)」を、GitHub上でオープンソースとして10月12日公開しました！ https://x.com/CitadelAI/status/1712231414614167832?s=20 大規模言語モデルとそのアプリケーションの開発・運用に関わる課題と対策をまとめたブログ記事も連載開始します。我々が社内ハッカソンを

      Citadel AI …

      • AI の標準化と法規制に関する動向： 2023 年版

        AIの規制についての議論が次第に活発になりつつあります。このトピックに関する活動はグローバルに行われていますが、主に EU で活発に行われており、AIに関する標準やガイドライン、法整備はすでに進められてきています。 AI の規制に対して日本がとっている「ソフトロー」的なアプローチと並行し、特に 欧州ではEU の AI Act が近々成立・公布される見込みであり、日本の企業も AI Act が提唱する AI の標準について注視し、今後の対応を検討することが必要です。 この記

        Citadel AI …

        • 機械学習システムとテスト (2/4)

          このシリーズでは機械学習システムにおけるテストについて考えていきます。全 4 回を予定しているうちの今回は第 2 回目です。 第 1 回目では機械学習システムのテストと通常のソフトウェアのテストを比較し、「テスト項目の設計」や「妥当性の評価」が困難であることを確認しました。第 2 回目以降では具体的な機械学習パイプラインを想定し、さまざまなテストについて具体的に検討します。 想定する機械学習パイプライン本シリーズではテスト対象とする機械学習パイプラインとして reproi

          Citadel AI …

          機械学習システムとテスト (1/4)

          このシリーズでは機械学習システムにおけるテストについて考えていきます。次の図は DevOps のプラクティスにおいてテストが密接に関わっていることをよく表しています。(図はブログポスト Continuous Testing in DevOps… — Dan Ashby をもとに弊社で作成しました) システム開発においてテストは必要不可欠なものであり、開発のすべての工程と密接に関わっています。このため、テストを自動化しておき、開発者の環境や CI/CD パイプラインで常に実行

          Citadel AI …

          機械学習システムとテスト (1/4)

          Citadel AI (https://www.citadel.co.jp)

          💗 MLOpsを、AIを育てる楽しい仕事に！

          本年夏に、弊社杉山阿聖がMLSE(機械学習工学研究会) 夏合宿にておこないました講演「Introduction to MLOps : 機械学習アルゴリズム以外のさまざまな課題とその取組について」が非常に好評でしたので、シェアさせて頂きます。MLOpsとは「AIを育てる仕事であって、楽しい仕事にしましょう！」というのがテーマです。1時間と長いのですが、ご参考になるところも多いと思いますので、週末等お時間のございます時にでもご覧頂ければ幸いです。 弊社ではAIの開発・運用を圧倒的に高速化するツールを提供しています。 デモのご要望はこちらまでお寄せ下さい。 info@citadel.co.jp

          Citadel AI …

          💗 MLOpsを、AIを育てる楽しい仕事に！

          Citadel AI (https://www.citadel.co.jp)

          #信頼できるAI のビデオ配信始めました。

          AIに関わる ちょっとした疑問にお答えする ＃信頼できるAI にかかわるビデオを Twitterにて配信開始しました。ホームページとあわせてご覧ください！ このブログでは、今まで配信した 記事をまとめてご覧頂くことができます。続々と配信していきますので、もし何か「これが知りたい」といったようなご要望がございましたら、是非お寄せ下さい。 従来のシステムとAIの違いって何？   AIの学習時と運用時の環境の違いって何？   AIの学習データと運用データの違いって何？

          Citadel AI …

          #信頼できるAI のビデオ配信始めました。

          Citadel AI (https://www.citadel.co.jp)

          「AIの信頼性やリスクとその対処法」に関わるビデオ配信を開始

          企業の皆様がビッグデータを活用し、 差別化を進めて行く上で、 AIは非常に強力で有効なツールです。 その一方で、 AIの学習や運用方法を誤ると、 これまでのシステムでは考えられなかったような、 ビジネスやコンプライアンス上のリスクに繋がる、 解明困難な想定外の問題が発生する側面を秘めています。 AIをビジネスや社会で最大限有効活用するためには、 開発の瞬間だけではなく、 継続的に見守り、 学習を重ね、 育てて行く、 「ライフサイクルを通じたAIの品質マネジメント」を実施する

          Citadel AI …

          「AIの信頼性やリスクとその対処法」に関わるビデオ配信を開始

          Citadel AI (https://www.citadel.co.jp)