嫌いなWebサイトの取り締まりを祝うのはなぜ間違いだ

嫌いなWebサイトの取り締まりを祝うのはなぜ間違いだ 民間企業は、独立した監視や規制なしにオンラインでの憎悪を取り締まっています。これは深刻な影響を及ぼし、基本的人権や自由に危険をもたらします。 (シャッターストック)

バージニア州シャーロッツビルで最近行われた武装した白人優越主義者によるトーチライトの行進は、憎しみグループがどのように規制されるべきかについての議論を生み出し続けている。 行進の後に世間からの圧力が高まる中、インターネット企業は自社のプラットフォームから暴力的な憎しみのスピーチを支持するウェブサイトを削除することを急いだ。

GoDaddyは ドメインサービスを終了 ネオナチのウェブサイトThe Daily Stormerへ グーグル。 オンライン攻撃からWebサイトを保護する会社であるCloudflareも 禁止されました そのプラットフォームから嫌いなWebサイト。 ロシアはこのサイトを禁止するよう命令した 国でホストされているから。

私の研究 そして私の本 チョークポイント:インターネット上のグローバルプライベート規制 多くのインターネット企業がすでにコンテンツを削除し、ユーザーを「自発的に」禁止しています - つまり、法律や司法プロセスがない場合です。 Google、PayPal、GoDaddy、Twitter、Facebookなどの主要な仲介業者は、子供の性的虐待コンテンツ、過激主義、および偽造品の不正取引について、自主的に自社のプラットフォームを警戒しています。

多くの人々は、嫌いな発言やその他の好ましくないコンテンツを書き留めるためのこれらの努力を賞賛しています。 しかし、事実上の言論の調整者としてのインターネット企業の努力は深刻な疑問を投げかけている。オンラインコンテンツはどのように規制されるべきなのか? 誰によって?

私は白人の優越主義者を支持しません、そして、私はそのような言論のいくらかの取り締まりに対して主張していません。 そうではなくて、私は次のケースがそれほど明確ではないかもしれないのでオンラインコンテンツを規制する方法を真剣に考える必要があると言っています。

強力な会社がインターネットを警備するのに頼ることには重大な問題があります。彼らの執行慣行は厄介に不透明であり、恣意的な解釈をする傾向があるからです。

邪魔な先例

デイリー・ストーマーに反対しているというインターネット企業の声援とは対照的に、クラウドフレアのCEOマシュー・プリンスは、世論の圧力に応じて憎悪グループからサービスを撤回することは、オンラインスピーチの警戒に厄介な先例をもたらすと警告する。

ブログ投稿 デイリー・ストーマーに対するクラウドフレアの行動を説明しながら、プリンス氏は、デュー・プロセスは言論の自由よりも「より重要な原則」だと考えていると述べた。 このプロセスは、コンテンツとオンライン行動の事実上の規制者として働く仲介者に固有の問題を適切に捉えています。

今年の初め、 従業員を買い物する そして何百もの 何千人 促された 請願 一番右のBreitbart Mediaのインターネットストアのホスティングをやめるオンラインコマースプラットフォーム。 代表取締役会長 スティーブン・バノン 呼び出し ブライトバート「代替権のためのプラットフォーム」 いわゆる「代替権利」 - によって普及している用語 リチャード・ベルトラン・スペンサー - 白人優越主義者、分離主義者、ネオナチ、ファシスト、人種差別主義者、反ユダヤ主義、イスラム嫌悪、そしてポピュリスト保守的なイデオロギーの組み合わせをカバーしています。

ShopifyのCEO TobiasLütkeは、言論の自由を擁護していると語った。 オタワの会社が脅威の下でブライトバートのオンラインストアをホストし続けていたので 辞任する従業員。 公開後 圧力 そして草の根運動と呼ばれる #DeleteShopify 詳細を明らかにした精査につながった 疑わしい事業、Shopifyでした 強制的な 採用する 「許容される利用ポリシー」

The Daily Stormerの対照的な例と、インターネット会社によるその削除、およびShopifyのBreitbartに対する堅実なサポートは、激化を約束するだけのジレンマの極値を示しています。

任意の方針、規制

インターネット仲介者は、裁判所の命令なしに迅速に行動することができるため、多種多様な問題に関して強力な規制当局となる可能性があります。 重要なのは、彼らは彼らの利用規約契約の下で任意のコンテンツを検閲したり、ユーザーを禁止したりする余裕があることです。

PayPalはユーザーへのサービスを終了する権利を留保します。いかなる理由でもいつでもほとんどの仲介業者のサービス契約に反映されている言葉。 したがって、恣意的規制の能力は、仲介人の内部規則に組み込まれています。

プリンスは、クラウドフレアのデイリーストーマーに対する訴訟は、裁判所の命令なしに、仲介人がスピーチを警戒するための先例となると警告した。

これらの仲介者はしばしば、企業がインターネット規制の公の(しかしほとんど説明できない)面であることを好む政府の最善を尽くして行動する。 しかし、これらの企業は一般的に合法性と違法性を区別するのに十分な装備がなく、誤った解雇を引き起こし、誤って合法的行動を狙っています。

同様に問題があります。仲介人の執行プロセスは、内容のモデレーターが複雑で変化の速い内部ルールを任意に解釈するため、しばしば不透明です。 これらの問題は、仲介者がプラットフォーム上の問題のあるコンテンツを識別して削除するための自動化ツールの使用の増加によって悪化しています。

子供の虐待やテロに対して最初に制定された規則 - 施行のための注目すべき触媒 - が著作権で保護されたコンテンツの無許可のダウンロードのような他の明らかに害の少ない問題に後で適用されるとき、いわゆるミッションクリープの懸念もあります。

ディストピアの未来はこちら

規制の取り組みは、一般的に、暴力的な嫌いなスピーチを検閲することから、Black Lives Matterのように、物議を醸すことが考えられる他のスピーチへと拡大します。 同様に、世界中の政府は定期的に仲介業者に圧力をかけています。 検閲と追跡 批評家と政治的反対者。

主要な仲介者が政府に代わって、または知名度の高い抗議に対応してコンテンツをポリシングする責任を負う規制当局になると、すでにかなりの権限が増大します。 米国を拠点とするインターネット企業は、検索、広告、ドメイン登録、支払い、ソーシャルメディアなど、すでに多くの業界を支配しています。 クラウドフレアの王子様 警告 「少数の巨大ネットワーク」に頼ることで、「少数の企業が、オンラインにできることとできないことを大部分決定するだろう」と述べた。

このディストピアの未来はすでにここにあります。

デイリーストーマーの崩壊は間違いなく世界をより良い場所にしています。 しかし、FacebookやTwitterのような企業に、独立して、恣意的に、そして密かに、どのコンテンツにアクセスして共有できるかを決定してもらいたいですか。

一見難しそうな問題を考えると、私たちは何ができるでしょうか。 第一に、抗議行動やメディアの圧力に基づいた統治を避けるべきです。 代わりに、 明確なルールのセットが必要です Princeが推奨しているように、仲介者が一貫して、透明に、そして適切なプロセスを尊重して対応できるようにする。

政府は、仲介人の規制上の責任の本質、そして重要なことを明確にすべきである。 最後に、我々は特定の危機 - いわゆる「偽のニュース」、テロリズム、そして憎悪グループ - への対応としての統治をやめなければならず、その代わりに私たちがインターネットをどのようにできるかそして支配するべきかについて批判的に考えなければならない。会話

著者について

Natasha Tusikov、犯罪学、社会科学科助教授、 ヨーク大学、カナダ

この記事はから再公開されます 会話 クリエイティブコモンズライセンスの下で 読む 原著.

関連書籍

{amazonWS:searchindex =本;キーワード=嫌いな言葉; maxresults = 3}

enafarZH-CNzh-TWnltlfifrdehiiditjakomsnofaptruessvtrvi

InnerSelfをフォロー

Facebookのアイコンさえずり、アイコンrss-icon

電子メールで最新情報を取得する

{emailcloak =オフ}

MOST READ