短編映画Slaughterbotsは、マイクロドローンの群れが政治的信念のために何千人もの人々を暗殺する近い将来を描いています。 11月2017にリリース 高度な人工知能（AI）の危険性を警告する学者や活動家によって、それはすぐにバイラルになり、これまでの3mのビューを引きつけました。 スパークを助けました 公開討論 自律兵器の将来について、国連での外交官会議に圧力をかける 従来兵器に関する条約.
しかし、この種の投機的なSFのストーリーテリングは、注目を集めるのに役立つだけではありません。 高度な技術を設計および構築する人々は、ストーリーを使用して作業の結果を検討し、それが永久に使用されるようにします。 そして、この種の「サイエンスフィクションプロトタイピング」または「デザインフィクション」は、人間のバイアスが新しいテクノロジーに作用するのを防ぎ、社会の偏見や不正をさらに深めるのに役立つと考えています。
{vembed Y=9CO6M2HsoIA}
バイアスは、（結果、人、またはアイデアの）一部のカテゴリを他のカテゴリよりもarbitrary意的に選好する可能性があります。 たとえば、一部の人々は、それを意識しているかどうかにかかわらず、幹部の仕事のために女性を雇うことに偏っているかもしれません か否か.
そのようなバイアスを記録するデータを中心に構築されたテクノロジーは、最終的には 問題を再現する。 たとえば、特定の仕事に最適な履歴書を選択するように設計された採用ソフトウェアは、男性に対する無意識のバイアスを反映する特性を探すようにプログラムされている場合があります。 その場合、アルゴリズムは男性の履歴書を優先することになります。 そしてこれは理論的ではありません–それは アマゾンに実際に起こった.
考えられるマイナスの影響を考慮せずにアルゴリズムを設計する 比較されました 医師に「与えられた治療の利点について書いて、どんなに深刻であっても、副作用を完全に無視します」。
一部のハイテク企業や研究者はこの問題に取り組んでいます。 たとえば、Googleは 倫理原則のセット AIの開発をガイドします。 そして、英国の学者はと呼ばれるイニシアチブを開始しました 等しくない これは、テクノロジーの設計と使用における公平性と正義を促進することを目的としています。
問題は、公的には、企業は近未来技術の潜在的な結果について肯定的なビジョンのみを提供する傾向があるということです。 たとえば、無人運転車は、多くの場合、コストから安全性までのすべての輸送問題を解決するものとして描かれ、増加を無視します サイバー攻撃の危険性 または彼らが人々を奨励することができるという事実 歩くか自転車を使わない.
デジタル技術、特にあいまいなアルゴリズムに大きく左右されるものがどのように機能するかを理解することの難しさも、人々が問題について複雑で包括的な見解を持つことを難しくしています。 この状況は、心強い肯定的な物語と、周囲のテクノロジーにある程度バイアスが埋め込まれているという曖昧な疑念との間に緊張を生み出します。 ここで、デザインフィクションによるストーリーテリングが登場すると考えています。
ストーリーは可能性や複雑な状況について考える自然な方法であり、私たちはそれらを私たちの人生を通してずっと聞いてきました。 Slaughterbotsのように、サイエンスフィクションは近未来のテクノロジーが社会に与える影響について推測するのに役立ちます。 これには、難民や移民などの特定のグループができるように、社会正義の問題を含めることもできます から除外 デジタルイノベーション。
（可能性のある）未来を明らかにする
デザイン小説 デザイナー、エンジニア、未来派（とりわけ）に、人間の観点からテクノロジーの影響について考え、将来の可能性のあるニーズに結び付けるための斬新な方法を提供します。 論理と想像力の混合により、デザインフィクションはテクノロジーの採用と使用の側面を明らかにし、そのことについての会話を開始できます。 将来の影響.
たとえば、短編小説「犯罪ソース」AIがクラウドソーシング情報と犯罪者データベースを使用して、誰が殺人を犯すかを予測する場合に何が起こるかを調査します。 研究者は、データベースが社会的な理由で統計的に反発する可能性が高い少数民族グループの人々でいっぱいだったため、「犯罪ソーシング」モデルは 誤って少数派を疑う 白人より。
デザインフィクションを作成するために、才能ある作家である必要も、滑らかな映画を作成する必要もありません。 カードや絵コンテに関するブレインストーミング活動 使用されている デザインフィクションを開発し、ストーリーテリングプロセスの開発を支援します。 これらの種類のツールを使用するワークショップをより一般的にすることで、より多くのエンジニア、起業家、政策立案者がこの評価方法を使用できるようになります。 そして、結果の作品を公開することは、社会に影響を与える前に技術の潜在的なバイアスを明らかにするのに役立ちます。
この方法でより多くのストーリーを作成して共有するようにデザイナーを奨励することで、新しいテクノロジーを支える物語が肯定的な全体像を示すだけでなく、極端に否定的またはディストピア的なものを提示することもなくなります。 代わりに、人々は私たちの周りで起こっていることの両方の側面に感謝することができます。
著者について
アレッシオ・マリツィア、ユーザーエクスペリエンスデザインの教授、 ハートフォードシャー州の大学 & シルビオ・カルタ、アートおよびデザインの責任者、デザイン研究グループの議長、 ハートフォードシャー州の大学
この記事はから再公開されます 会話 クリエイティブコモンズライセンスの下で 読む 原著.
