飲み会でそれ押すのだけは勘弁してくれませんか？ - Devin観察日記
またDevin飲み会をやってしまいました。
結論から言うと、今回はDevinが取り返しのつかないミスをしてしまったので、僕はもうモバイルオーダーDevin界隈から身を引こうと思います。
モバイルオーダーDevinという危険な遊びを一部で流行らせてしまったことに責任を感じたので、最後に警鐘を鳴らす意味でも、きちんとテキストに残したいと思います。
※飲み会自体はとても和気あいあいとしており、楽しい会でした。
事件の始まり
すべての始まりは、この日記でした。
居酒屋のQRコード（モバイルオーダー）をDevinにやらせてみたら、思いの外楽しかったのです。
その記事を読んだ友人複数名が名乗りをあげ、わずか5日後に今回の飲み会が開催されました。
当時の状況
席に着くなり、Devinにリンクを読ませます。まずは乾杯のドリンクを注文させることにしました。それだけなら良いのですが、ある人はおもむろにMacbookを開いてRoo Clineにドリンクを注文させたり、またある人はbrowser-useベースの自作エージェントにもドリンクを注文させたり、そもそもDevin契約者がその場に2人いたりと、AIエージェントドリンク注文バトルが勃発してしまったのです。
いくらLLMがオーケストレーションされていても、それを扱う人間たちの間で意思疎通が取れていないので、カオスでした。さらに、そのモバイルオーダーは「かご」が部屋内で共有される仕組みだったので、AIエージェント同士でかごを上書きしあった結果、誰も注文できなくなっていたのです。クレジットだけが無慈悲に消費されていく賽の河原です。
唯一まともに注文できたのは、ユーザーの承認アクションを全てスキップしていたRoo Clineだけでした。
レモンサワーが3つ注文されました。
しかし、飲み会出席者は6名。あと3つ足りません。
痺れを切らした人間が手動でホット烏龍茶を3つ注文した頃には、着席からすでに30分以上が経過していました。
発生した出来事
ここまでは何の問題もなく、ただただ楽しい時間を過ごしていました。しかし飲み物のオーダーと向き合い続けていたDevinが、絶対に押してはいけないボタンを押してしまったのです。
Once you proceed to payment, you will not be able to place additional orders.
CANCEL PROCEED TO PAY
それは、会計ボタンでした。
まだドリンクしか注文していないのに、会計が確定されてしまったのです。慌ててDevinをsleepさせますが、時すでに遅し。メニューを選択できなくなってしまいました。
モバイルオーダーのお店は会計確定すると詰みます。未確定に戻す動線などあるはずもなく、店員さんを呼ぶしかありません。ついにお店に迷惑をかけてしまいました。「間違えて確定してしまって……」と話したら、店員さんは「えっ？」と半笑いでした。本当にすみませんでした。
しばらくすると、代わりのQRコードが運ばれてきましたが、注文が始まりません。店員さんもどうしたらいいか分からない様子で、どうやら完全にお店のオペレーションの秘孔を突いてしまったようです。本当に申し訳ないことをしてしまいました。「別のQRコードを有効化したらお通しがもう一度出てきてしまうのではないか？」という考察もありました。真偽は不明です。
モバイルオーダーを封じられた我々は、店員さんを呼んで注文することになりました。最先端の飲み会になるはずが、時代が逆行していまったのです。
AI エージェントでしか注文できない飲み会したはずなのに、初手でDevinが勝手に決済して、それ以降モバイルオーダー使えず人でしか注文できなくなった結果、人間の尊厳が守られた、ただの新年会になった。
— Yu Ukai (@ukkaripon) January 13, 2025
Devinはその時、何を見ていたのか
なぜDevinは会計ボタンを押してしまったのか、という謎が残ります。当時のログを振り返ってみましょう。
ここまでは良さそうです。次の画面がこちらです。
おそらくですが、CHECKOUTというボタンを見て、Devinは注文を確定するボタンだと勘違いをしたのだと思います。海外のお店では、注文は一回ずつ決済（CHECKOUT）する方法が一般的だそうなので、Devinもそういうシステムだと誤認していた可能性があります。
実はその前のやり取りで、Devinが注文を確定しておらず、「注文出来ていないよ」と僕が言ってしまっていました。今思えば「かご」の奪い合いが原因だった可能性が高いですが、これが誤解を生んだものだと思われます。
念入りに注文しようとした結果が招いたCHECKOUTでした。Devinのことは責められません。
まとめ
この一件は、AIエージェントが間違いを犯したときの責任問題について考えるキッカケになりました。考えるまでもなく、全ての責任は監督者である僕にあるでしょう。Cognition社のことは責められようはずもありません。
きっと2025年中には、正規のモバイルオーダーAIが登場することでしょう。間違えて会計することなんてない、きちんとした専用のAIです。そういうので良いのです。Devinに無茶振りする必要なんてなかった。とても学びの多い飲み会でした。
追記
ついにDevinの紹介キャンペーンが始まりました！🎉
以下のリンクからDevinを契約すると、+100 ACUs ($200) が貰えます。会社で契約する方も、個人で契約する方も、お得なのでぜひご利用ください。
（HackforPlayというのは私の会社の名前です）