【書評】Ruined by Design - Design Ethics: デザイナーと倫理観の話
こんにちは。👋
日本はとても暑そうですね！シカゴも1週間に1日くらいそれくらい暑くなりますが、湿気がそこまでないので過ごしやすいです◎
さて、このところ受験対策系やシカゴの生活系を投稿していたので、今回は方向性を変えて授業で取り上げられた題材についてお話したいと思います。
今日お話したいのは、春学期に受講したPrinciples and Methods of User Research(PMUR)という授業の宿題の一貫として読んだMike Monteiro著のRuined by Designという本についてです。PMURはその名の通りユーザーリサーチの手法を実践を通して学ぶ授業で、現在Accenture Fjordの現役デザイナーであるMark Micheli先生による授業です。（この秋から育休👶）この授業はとってもおすすめで、別の記事で別途取り上げたいのですが、毎週書籍や論文を読みサマリーを書くという宿題があり、Ruined by Designは課題図書のうちの一つで、非常にインパクトが強かったのでご紹介できればなと思っています◎
この本のテーマは、デザインと倫理観についてで、筆者は、この本を通してすべてのデザイナーに、自分の仕事が社会に対して持つ影響力を理解し、自分の倫理観と向き合うことの重要性を強く訴えています。以下、本の要約です。
※一部原文がこちらで公開されているので、英語のほうがいいよ、という方はこちらからどうぞ💐
Ruined by Design : How Designers Destroyed the World, and What We Can to Fix It by Mike Monteiro
世界はデザイナーによって滅ぼされようとしている？
私たちはもうだめだ。この本が手元に届くころにはもう手遅れになっているかもしれない。
あなたがこれを読むころには、グリーンランドは溶けて、海抜は20フィート上昇しているかもしれない。アメリカ中の人が銃乱射で死んでいるかもしれない。どこかのバカな国が、別のバカな国に爆弾を発射しているかもしれない。Facebookが誤って全員の個人情報を公開し、TwitterのリーダーたちはHugo Bossの新しい制服の採寸を受け、シリコンバレーは女性の存在を違法とするよう議会に働きかけているかもしれない。これらの仮説はバカバカしくは聞こえるものの、今後起こる可能性はゼロだと言い切れるだろうか？おそらく可能性はゼロではない。
今この世界で起きている問題はデザイナーによってデザインされたと言っても過言ではない。地球温暖化の原因となった燃焼機関は誰かがデザインしたはずで、小学校で子どもたちの命を奪った銃も誰かがデザインしたはずで、互いに対立する宗教も誰かがデザインしたはずで、虐待やハラスメントに対処する方法を持たないSNSも誰かがデザインしたはずだ。世界はデザインによって破滅の道へ向かっていると言っても過言ではない。
門番としてのデザイナー
この本は、大企業に勤めている読者に仕事をやめてNPOに転職するように説得したいわけではない。もしあなたが現在大企業に勤めているなら、むしろそこに留まり、あなたの影響力を活かしてこの本から学んだことを周りに広めてほしい。
この本の目的は、誤った方向に影響されやすいこの世界で、正しい道を選択できるようにデザイナーの手助けをすることであり、デザイナーが門番のような役割であることを理解してもらうことである。私たちは、モンスターに対抗する人類の最後の防衛線になろうとしているのだ。この本は肩書に関わらず何かをデザインすることに携わるすべての人に向けて書かれている。（UIデザイナー、UXデザイナー、インダストリアルデザイナー、グラフィックデザイナー、だけではなく、プロダクトマネージャー、プロジェクトマネージャーなど、デザインに影響を与えるすべての人がこの本を読むべきだ。）
デザインは政治的行為である
デザインは政治的な行為である。何をデザインするか、何をデザインしないか、さらに重要なのは、誰をデザインプロセスから排除するか、これらはすべて政治的行為である。私たちの労働力が世の中に持つ影響力を理解し、それをどのように使うかによって、私たちがどのような人間であるかが決まりる。偉大なるビクター・パパネックの言葉にあるように、私達は自分が世に送り出したものに対して責任がある。そして、それらのものが世界に及ぼす影響に責任を持つのだ。
今パパネックが生きていたら、いかにインターネットがとんでもないものであるか腰を据えて議論ができたことだろう。パパネックはそれを聞いて卒倒してしまうかもしれない。
デザイナーは世界を変えることができるのか？
YesともNoとも言える。
あなたに一つ釘を刺さなければいけないことがある。あなたは特別ではない。あなたには、他の人と比べて特段秀でているとこをは全くない。たとえあなたが自分がこの世で一番クリエイティブな人間だと思っていたとしても、世の中にはあなたと全く同じようなレベルの人が1,000万人くらいいるだろう。
私たちは、他の人と何ら変わりはない。私たちは特別な存在ではない。私たちは「普通」であり、同じ社会契約の中で生きている。デザイナーは世界を変えることができる。ただ、世界を変えられるのはデザイナーだけではない。私たちは、地球上の他のすべての普通の人と同じ責任を負っている。そして、他の人たちと同じように、あなたも参加する必要があるのだ。現在の混乱を乗り越えるためには、誰もが自分の役割を果たす必要があるのだ。
世界はいつも「普通の人」によって変えられてきた
世界は特別な権限を持つ人々によって変えられてきたわけではない。大体の場合、普通の人が、普通の生活を送ろうとしているときに、何か馬鹿げたことが起こり、普通の生活を邪魔されたことにより、自ら立ち上がることによって変わるのだ。偉大なるマガレット・ミードはこのような言葉を残している。「思慮深く献身的な市民の小さな集団が世界を変えられると信じて疑わないこと。実際、これまで世界を変えてきたのは、そういった人々だけだ。」
世界はローザ・パークスのようなお針子たちが、二流市民として生きることを拒否することによって、レフ・ヴァウェンサのような電気技師が、妥当な賃金を要求することによって、マララ・ユサフザイのような少女たちが、どうしても学校に行きたいと願うことによって、少しずつ変わってきたのだ。
シリコンバレーの自由主義的な詐欺師たちは、何年も前から、自分たちは世界を変えたいと言っていた。しかし、トップに立つ人間が世界を変えたいと言うとき、それは大抵、下の人間からさらに利益を得る方法を考え出した時なのである。
私たちは世界を変えることができる。なぜなら、私たち普通の人の方が彼ら（シリコンバレーの自由主義者）より多いからだ。私たちのような普通の人たちなしでは、彼らは想像したものを製品化することはできない。私たちの労働力こそが、私たちを特別な存在にし、私たちに力を与えてくれるものである。その労働力を、一部の人たちを今以上に豊かにするために使うのではなく、できるだけ多くの人たちのために世界をより良くするための力に変えたらどうだろうか。そのときこそ、私たちは世界を変えることができるかもしれない。そうすれば、私たちは家に帰り、真の意味で「普通の生活」を送ることができるようになるのかもしれない。私はそれが楽しみで仕方ない。
簡単なことだろうか？いや、でも、それだけの価値がある。
デザインの倫理
多くの職業は、時に人・物に害を与える可能性があるとされており、ある種の倫理規範を持っている。それはプロ意識の成熟と責任の証であり、それに従わない場合は免許の剥奪を含む代償が伴う。医者、弁護士、ジャーナリスト、そしてデザインの「従兄弟」である建築家でさえも、倫理的な規範を持ち、それに従うことに同意している。しかしデザイナーには倫理規定も免許もないのが現状だ。
医師の診察室に入って、オキシコドン（オピオイド系の鎮痛剤のひとつで、アヘンに含まれるアルカロイドのテバインから合成される半合成麻薬。）を処方してほしいと要求したとしよう。普通の医者なら、正当な理由なくそのような薬を処方することはない。一般的な良識に加えて、理由は2つある。倫理規定に反すること（健康な人に必要のない薬を与えることは害になる）、そして誰かに知られたら免許を剥奪されるからである。
彼らはそんなミスを犯さないように訓練されている。彼らはオキシコドンが体に悪いことも、倫理的に間違っていることも、そしてそれをしたら罰せられることも知っているのだ。
では、今度は上司があなたに、ユーザーを騙してやりたくもないことをさせるために、くだらないダークパターンのデザインを要求してくることを想像してみてほしい。何人の人が要求に従うだろうか？それが悪いことだと知っている人は何人いるだろうか？それが非倫理的な要求であると理解している人は何人いるだろうか？
この2つの状況はまったく同じである。どちらの状況でも、専門的なサービスを提供する人に、誰かがそのスキルを非倫理的に使うよう要求しているのだ。もしあなたが、給料をもらっているのだから上司の望むようにしなければならないと考えるなら、医師も中毒者がお金を喜んで払うなら、オキシコドンを提供すべきということになる。サービスの対価として現金を得ることは、倫理に取って代わるものではない。
デザイナーには倫理規範が必要だ
インターネットがハラスメントや虐待の温床になっているのは、例えばデザイナーがFacebookの広告ネットワークを広告主が人種でターゲットを絞れるようにしたように、実装してはいけないものを実装したためであり、企業が、虐待に対処できなかったTwitterのように、実装すべきものを実装しなかったためである。これらのデザイナーが当時自分たちがどれくらい非倫理的な行為をしているか認識していたかどうかは知るよしもないが、少なくとも私たちは自分たちに釘を刺す必要がある。無知を言い訳にするのはやめよう。私たちには倫理規範が必要であり、それに従うよう運用する必要がある。
以前のデザイナーの仕事といえば、主にウェブサイトを作ったり、製品を作ってオンラインで販売したりすることだった。しかし今はその範疇を超えている。私たちは、個人的な人間関係を管理し、罵倒や嫌がらせを生み出し、ユーザーが善と悪の違いすら見分けることができない（あるいは気にしない）、世界規模の巨大ネットワークを設計した。
私たちは喜んでナチですらプラットフォーム上に歓迎する。なぜならそれはプラットホームのエンゲージメント向上としてカウントされるからである。私たちは喜んでユーザーに子どもを殺された親の住所を投稿させる。なぜならその住所に対して広告を売ることができるからである。さらに、私たちは「スマート」デバイスをデザインし、デバイスが私たちが家庭で行うすべてのことを聞き、見ることを許容している。こうしたものをデザインしているのは、自分たちの職業倫理規範が何なのか理解していないデザイナーか、またそれを破ったデザイナーに対処する手段を知らない人たちである。
私たちが行う仕事は、この20年間で驚くほど複雑になっている。技術的に、ではなく、倫理的に複雑だということだ。
ヒポクラテスの誓いに「傷つけてはいけない」（"Do not harm"）というものがあるが、これは原版には存在せず、後になってから追加されたらしい。私は1年ほど前にデザイナー向けの倫理規範をドラフトした。これはオープンソースで、みんなで更新していくべきものだ。
デザイナー倫理規範第一版
デザイナーは第一に、人間だ。
あなたはデザイナーである前に、人間である。地球上の他のすべての人間と同様、あなたは社会契約の一部だ。デザイナーになることを選択することで、自分の行動、仕事で人々を助けることも傷つけることもできるのだ。あなたがデザイナーの仕事を通して社会に与える影響は、常に重要な考慮事項であるべきだ。
この地球上すべての人間は、地球を以前より良い状態で残すために最善を尽くす義務がある。この地球上のすべての人間を尊重する義務がある。デザイナーはそれを放棄することはできない。
デザイナーは、自分が世に送り出した作品に責任を持つ。
私たちは物を作る。そして、それが世の中に出て、人々に影響を与える。私たちが作るものには、結果が伴う。自分が世に送り出したものには責任がある。あなたが作る作品には、あなたの名前がついている。
誰かを傷つけることを意図した作品がその使命を果たした時に、「そんなつもりではなかった」と驚くのはお門違いだ。私たちがデザインした銃が誰かを殺しても、驚くには値しない。移民の一覧を作るために作ったデータベースが、その移民を強制送還させることに繋がったとしても、驚くには及ばない。その作品が害を及ぼすこと可能性を知りながらそれを作る時、私たちは自らの責任を放棄しているといえる。私たちが無知で、その作品の持つ完全な影響力を考慮しなかったために他人を傷つける作品を作ったとき、私たちは二重に罪を犯しているのだ。
デザイナーは形よりも影響力を重視する。
私たちは、自分のアイデアの巧みさを愛するよりも、自分の仕事の結果を恐れる必要がある。
社会は私たちが影響を与えられる最大のシステムであり、良いことも悪いことも含めて、あなたが行うすべてのことは、社会というシステムの一部なのである。最終的に私たちは、美的感覚ではなく、その影響力に基づいて自分の仕事の価値を判断しなければならない。誰かを傷つけるための物がよくデザインされていることはありえない。たとえどんなに見た目が美しかったとしても。
全体主義者がデザインしたものが、うまくデザインされているわけがない。壊れた銃は、動く銃よりもよくデザインされている。私たちは難民を安全から遠ざけるような壁をデザインことは倫理的にありえない。
デザイナーは、労働力になるだけでなく、雇用主の相談相手になる義務がある。
あなたがデザイナーとして雇われる時、あなたの専門知識に対して雇用が発生している。あなたの仕事は、その作品を作るだけでなく、その作品の影響を評価し、それをクライアントや雇用主に伝えることだ。私たちは、ただ溝を掘るために雇われているのではなく、その溝がもたらす経済的、社会的、生態学的な影響を評価するために雇われているのだ。もし、その溝が不適切であれば、シャベルを破壊するのが私たちの仕事だ。
デザイナーは、自分の専門知識を他人のために使うのであって、召使になるわけではない。「違う」と言うことはデザイナーのスキルだ。「なぜ」と問うことはデザイナーのスキルだ。目を丸くして黙っているのは、デザイナーのスキルではない。「なぜこれを作るのか」と問うことは、「果たしてこれを作れるかどうか」を問うことよりも、はるかに優れた問いである。
デザイナーは批評を受け入れる。
いかなる倫理規範も、あなたの作品を批評から守るべきではない。むしろ、将来より良い作品を作るために、批判を歓迎するべきだ。もし、あなたの作品が批判に耐えられないような脆弱なものであるなら、それはそもそも存在すべきではない。
批評はギフトだ。良い作品をより良いものにする。悪い作品が日の目を見るのを防いでくれるのだ。一度焼いたケーキを修正することはできない。だからこそ、デザインプロセスのすべての段階で、批評を求め、歓迎すべきなのだ。批評を求めるのは、あなたの責任だ。
デザイナーはユーザーを知ろうと努力する。
デザインとは、ある制約の中で意図的に問題を解決することだ。その問題を適切に解決できているかどうかを知るには、その問題を抱える人々に実際に会う必要がある。単一の視点しか持たないチームは、複数の視点を持つチームほどデザインに必要な制約を理解することはできない。
共感（Empathy）についてはどうだろうか？「共感」とは、「排除」をオブラートに包んだ言葉である。私は、白人男性ばかりチームが、女性ユーザーがどのように考えるか考えるために「共感ワークショップ」を実施しているのを見たことがある。もし、あなたがデザインしているものを女性がどのように使うかを知りたければ、デザインチームに女性を参加させればいいだけだ。女性が絶滅したわけではないのだから。
デザイナーは例外を信じない。
誰のためにデザインするのかを決める時、同時に誰のためにデザインしないのかを暗黙のうちに表明することになる。私たちは長年、製品の成功に不可欠でない人たちを例外（エッジケース）と呼んできた。私たちは解決する価値のない問題を抱えた人たちがこの世にいると判断してきたのだ。
このような例外に含まれる人たちは、「両親の署名が必要」という書類を目の前にしたシングルマザーであり、投票に来たのに、母国語で投票できない高齢の移民たちである。彼らは例外ではないのだ。彼らは人間であり、私たちは彼らに最高の世界を提供する義務がある。
デザイナーはプロフェッショナルコミュニティーの一員である。
あなたはプロフェッショナルなコミュニティの一員であり、あなたの仕事の進め方やプロとしての振る舞い方は、そのコミュニティの全員に影響を及ぼす。もしあなたがクライアントや雇用主に対して不誠実な態度をとれば、他のデザイナーがその代償を払うことになる。もしあなたが無償で仕事をすれば、他のデザイナーも同じようにタダ働きを期待される。もしあるデザイナーが自分の倫理規範に反する行為を要求されたために仕事を辞め、あなたがその仕事を引き受けたら、あなたは他のデザイナー全員に不利益をもたらすことになる。
あなた自身の立身出世のために、他のデザイナーを犠牲にしてはいけない。他人の作品を無許可でリデザインし、それを公開すること、誰も求めていない仕事をすること、盗作がその例だ。
デザイナーは、プロフェッショナルなコミュニティを築き、互いに助け合おうとするものであり、コミュニティを分裂させようとする行いがあってはならない。
デザイナーは、多様で競争の激しい環境を歓迎する。
デザイナーは、そのキャリアを通じて、学び続けることが求められる。それは、同時に知らないことに直面し続けることを意味する。他の人の経験に耳を傾けること。多様なバックグラウンド、多様な文化を持つ人々を歓迎すること。社会から疎外された人々の声に耳を傾けられる場所を作ること。多様性はより良い結果や解決策をもたらす。多様性はより良いデザインにつながる。
その人が企業文化的に合わないから雇わないというのは、エリート主義、人種差別、性差別、もしくはその全てだろう。
デザイナーは内省の時間を持つ。
ある日突然、倫理観を捨てるデザイナーはいない。その時点では問題ないと思えるような小さな決断の積み重ねが、いつの間にかWalmartのオンラインストアで銃をフィルターしやすいようなフィルターUIをデザインすることに繋がっていたりする。
自分らしさを貫いているか？それとも、昇給やストックオプションの付与のたびに、数メートルずつ倫理観のゴールポストをゆっくりと動かしているのだろうか。軌道修正をしよう。あなたの職場は、倫理に反する地獄のような場所なのか？そうなら別の職場に移るべきだ。あなたの仕事はあなたの選択だ。正しい選択をしてほしい。
私たちは雇われ人でもPixelpushersでもない
ということで、これらがデザイナーの倫理規範の初版だ。倫理規定があるからといって、現場に悪者がいなくなるわけではない。給料をもらうために人を騙したり操ったりするデザイナーは常に存在するだろう。しかし、規範を持つこと、さらに言えば、規範について議論し、同意することは、責任を持って仕事をするための第一歩なのだ。そして、自分たちの力を認識することだ。私たちは雇われ人ではなく、Pixelpushersでもなく、注文を取る人でもない。私たちは門番(Gatekeeper)なのだ。
この初版の倫理規範は完璧にはほど遠いが、良い一歩だろう。今後、Github上で更新され、改善され、議論され、改訂されることだろう。
感想
若干過激で挑発気味なこの本は昨年非常にデザイン界隈で注目を集めた本だそうです。授業でもデザイン界隈、Tech界隈で起きた倫理的な問題に関して幅広く議論をしました。以下はほんの一例ですが。例えばMITメディアラボ所長が性犯罪者からの寄付を隠したとして辞任したり、Facebook、ZoomやAppleの個人情報保護に関して、今話題のMetaverseが若者の孤独を増大させる可能性があることなどについてなどなど。
デザインという観点でわかりやすいのは以下の例かなと思います。ミレニアル世代をターゲットにしたRobinhoodという投資アプリが引き起こしてしまった事件です。イリノイ州に住むAlexander Kearns氏は、Robinhoodを使って複雑な取引をしていました。しかしアプリのバグにより、ある日彼口座に表示されたのはマイナス73万ドル。彼は絶望の末、自ら命を絶ったとされています。実際には彼の口座残高は減っておらず、Robinhoodはこのバグに関して説明責任を求められたようです。これはMonteiroの倫理規範「デザイナーは、自分が世に送り出した作品に責任を持つ。」の部分に通づるところがあるかなと思います。
個人的に、筆者の言いたいことは非常に理解できるし、8割方同意しているのですが、デザイナーの倫理規範を読むとそれは少々極端では？と思ってしまう部分は少々あります。それこそ「デザイナーは、自分が世に送り出した作品に責任を持つ」ですが、目に見えないサービス（RobinhoodやTwitter, Facebookの例）は分かりやすいですが、目に見えるプロダクトは、人・物に危害を与えうるすべての可能性を考慮するのはなかなか難しいのでは、と思ったりします。例えば、筆者は文中で銃のデザインを例にあげていますが、もともと害獣を駆除するためにデザインされたのに、悪意を持った人がその銃を殺人に使用する可能性を考慮して、デザイン自体中止しろというのは難しいのではと思います。（物に罪はなく、一般人が気軽に銃が入手できてしまう制度デザインの問題なのでは、と）同じ理屈だと車も人に危害を及ぼす危険性があるし、包丁なんかもそうです。何なら、ユーザーが仮にタンスの角に足の小指をぶつけた場合、それはユーザーが小指をぶつける可能性を考慮しなかったデザイナーの責任になるのか、という。。。🤔💭
また、「デザイナーは例外を信じない」に関して、これはKat Holmesのミスマッチを読んだ時も同じ疑問を持ったのですが、インクルージョンが重要なのは理解しているのですが、とはいえ限られた原資（お金、時間など）のなかでプロジェクトを遂行する際に、やはりどのセグメントに先に焦点を与えるか意思決定することは大事で、優先順位は必要になるのではと思ったりします。最終的にすべてのセグメント（私達がエッジケースと読んでいる人々含め）に対応するなら、まずは一番母数が大きいセグメントから着手するのは別に良いんじゃないの？と思ったりします。🤔
とはいえ、こういう議論が展開されるのがMonteiroの意図なのだと思いますし、彼の主張は非常に説得力があり、この倫理規範がすべて実現できればとても理想的だと思います。ただ、実際問題はなかなか難しく、まずはマインドセットとして肝に銘じておくことが大事なのかなと思います。
個人的なお話ですが最近デザインと資本主義についてとっても興味を持っています。というのも、学校ではアンチ資本主義的な学生が非常に増えている気がするからです。現在の環境破壊や社会課題は資本主義によってもたらされたという考え方で、今後はMonteiroが主張するように一人ひとりが自分の倫理観の範囲で行動すべきだと唱えている人がちらほら増えています。今の社会構造的には、いくら倫理観が大事だといえど、最終的にプロダクトの方向性の意思決定をするのは資金を持つクライアントです。どんなにデザイナーが異議を唱えても、最終的に決定権を持つのはお金を持つ人です。現在私たちがかかえる環境問題や格差問題などの社会問題を解決していくためには、資本主義の仕組みでは限界があり、ポスト資本主義のデザイナーの働き方がどのようなものか考える必要があると唱えている方々がデザイン界隈で増えています。そんなこんなで現在はDesign after Capitalismという本を少しずつ読んでいるので、ご興味ある方がいらっしゃれば今後noteで概要を紹介できればと思います！
長くなってしまいましたが、今回は以上です！翻訳が読みづらかったらすみませんでした🙇♀️
この記事がお気に召したら是非スキしてくださると嬉しいです〜！投稿はかなり不定期になりますのでフォローも是非！🐕
次回は、最近オンラインでポートフォリオを作ったので、そのプロセスについて（IDからどういったガイドを受けていて、どのように実践したか）ご紹介できればなと思います〜！では、よい週末を〜！🍩
いただいたサポートは怒涛のインフレ&円安で圧迫されつつある留学軍資金の足しにさせていただきます…！😂