Skip to content

Instantly share code, notes, and snippets.

Show Gist options
  • Save mohritaroh/bf8a184185f661e4f5a038d988aa7cfb to your computer and use it in GitHub Desktop.
Save mohritaroh/bf8a184185f661e4f5a038d988aa7cfb to your computer and use it in GitHub Desktop.
先月、化学兵器攻撃の後、シリアの子供たちのフェイスブックでいくつかの恐ろしいビデオを共有した。 インターネット上の他の場所にも登場したこのビデオは、子供たちが息を吹き、息を吐くように苦労し、最終的には死ぬことを示しました。
画像は非常に衝撃的でした - そんなに私たちは彼らの前に警告画面を置いた。 しかしこのイメージはまた、国際的な怒りやシリア人の窮状に対する新たな注目を促した。
グローバル規模でのオンライン資料のレビューは困難で不可欠です。 Facebookでこの仕事をしている担当者として、私はどのように、どこで線を描くのかを説明したい。
平均的な日には、10億人以上がFacebookを使用しています。 彼らは数十の言語で投稿を共有しています。写真からライブビデオまでのすべてです。 そのうちのごく一部が調査のために私たちに報告されます。 いろいろな問題は、いじめや憎悪発言からテロリズムまで、そして複雑なものまで幅広くあります。 人々を安全に保ち、自由に共有できるようにする政策を策定することは、新興の社会問題やそれらがオンラインで明らかにする方法を理解し、世界中の人々から1週間に数百万の報告に素早く対応できることを意味します。
私たちの査読者にとっては、もう一つの障害があります。 1つの投稿の背後にある意図、または別の投稿に潜在するリスクを判断するのは難しいです。 誰かがテロ攻撃のグラフィックビデオを投稿します。 それは人々に暴力をエミュレートするか、それに対して反対を促すでしょうか? 誰かが自殺についてのジョークを投稿します。 彼らはただ自分自身であるのか、それとも助けを求める叫びですか?
英国では、君主制を批判することは受け入れられるかもしれない。 世界のいくつかの地域では、それはあなたに懲役刑を科すでしょう。 法律はガイダンスを提供することができますが、受け入れられるものは規範と期待についてです。 ストーリーを伝え、画像を共有する新しい方法は、これらの緊張を以前より速く表面にもたらすことができます。
私たちはサイトを安全に保つことを目指しています。 人々が回避策を見つけ出すことを奨励したくないため、私たちはポリシーの詳細を常に共有しているわけではありませんが、Facebookで許可されていることと許可されていないことを説明するコミュニティ基準を公開しています。
私たちの基準は時間とともに変化します。 私たちは、児童の安全からテロ、人権にいたるまで、専門家や地方組織と常に話し合いを続けています。 時には、これは私たちのポリシーが直観に反するように見えることがあることを意味します。 ガーディアンが報告したように、自傷の専門家は、自殺災害のライブビデオを放置して、人々に助力を促すことができるようにするが、コピーケットを防ぐために後で取り除く方が良いと助言した。 米国ジョージア州の女の子が2週間前にFacebook Liveで自殺を試みた時、彼女の友人たちは時間通りに彼女に連絡を取った警察に知らせることができました。
私たちは客観的にとどまるよう努力しています。 私たちが検討しているケースは簡単なものではありません。彼らはしばしば人々が同意しない灰色の領域にあります。 芸術とポルノは必ずしも容易に区別できるとは限りませんが、私たちはヌードのデジタル生成画像が手作りのものよりもポルノである可能性が高いことを発見しました。
一般的な怒りの表現と被害者の特定の呼び出しには大きな違いがあります。そのため、前者を許可しますが後者は許可しません。
これらの緊張は、表現の自由と恐怖からの解放、証言と何かとの間の暴力とそれを促進することの間の複雑さであり、明確にするための普遍的な法基準はめったに存在しません。 可能な限り客観的であることが、我々が世界中で一貫して唯一できる方法です。 しかし、私たちは依然として間違った電話をかけることがあります。
査読者を訓練するために使用する仮説的な状況は意図的に極端です。 彼らは、この仕事をする人々が最も困難なケースに対処するのに役立つように設計されています。 ほぼ10年前に初めてコンテンツ規格を作成したとき、個々の従業員の裁量に任されました。 しかし、差別的な発言やいじめを定義するものと同じ考え方を持つ人はいないので、明確な定義が含まれています。
私たちは、より多くの検閲を望む人々や、より少ない人を望む人々からの批判に直面しています。 私たちはそれが有用な信号であり、私たちがどんな方向に傾きすぎていないのかを見ています。
読者が私たちの役割を非常に真剣に受け止めていることを理解することを願っています。 Facebookのチームの多くの人にとって、安全は私たちの仕事よりも前の情熱です。子供の性的搾取からテロへのすべてを調査して、刑事検察官として10年以上を費やしました。 私たちのチームには、英国出身のカウンター過激派の専門家、ウェストポイントの戦闘テロリズムセンターの元研究ディレクター、レイプ危機センターの労働者、そして教師も含まれています。
もっと私たちができることがわかっています。 先月、私たちは追加の3000人の査読者を雇っていると発表しました。 これは厳しい作業であり、困難な決断を迅速に拡大し、必要な心理的サポートを提供することにより、適切なサポートを確実に提供するために、引き続き努力していきます。
テクノロジーは、これまで以上に多くの人により多くのコミュニケーション能力を与えました。 私たちは、これまで以上に共有するメリットがリスクを上回ると考えています。 しかし、社会は依然として受け入れ可能なものと有害なものを把握しており、Facebookではその会話の重要な役割を果たすことができることを認識しています。
Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment