監視資本主義者は行動主義者ですか?それは重要ですか?いいえ、たぶん。ICHI.PRO監視資本主義者は行動主義者ですか?それは重要ですか?いいえ、たぶん。マインドコントロール!CC-BY-2.0ドキュメンタリー「社会的ジレンマ」の公開は、科学技術の社会的側面を研究する学者を当然のことながら苛立たせました。リサメッセリのツイッタースレッドには、ドキュメンタリーのすべての問題点の優れた要約があります(すべて私は同意します)。ドキュメンタリーの出発点、つまりこれらの企業がユーザーの注意を向けるために作成した技術メカニズム(別名、運命のスクロールを可能にするアルゴリズム)は有害な結果をもたらし、今日の最大の問題です。少なくとも一部の学者は同意しています。このアカウントの1つの問題(テクノロジーの批判が広く繰り返されている)を強調したいと思います。監視資本主義者とシリコンバレーのエンジニアは行動主義者(BFスキナーの知的子孫)であるという推定です。その指導原則は、刺激を与えるように設計された精巧な刺激技術を構築することです。ユーザーの特定の応答。この投稿では、2つの質問を提起して回答したいと思います。それが有用であると考える高次のシステム行動につながる限り、個人レベルの行動を導くことに問題はありません。言い換えれば、彼らは行動主義者とは異なる自由の理論を持っています。シリコンバレーのエンジニアを行動主義者として描くことは、間違いなく政治的に有用ですが(これについては以下で詳しく説明します)、デジタル経済を規制するための戦いに突入するとき、説得力がありますか?私は以下のこれらの矛盾のいくつかを解き明かそうとします。SurveillanceCapitalismの第12章で最も明確に述べられています。(それはまた、何らかの形で、私が愛する他の技術批評の作品でも発生します:オードリー・ワターズの教育工学の歴史に関する執筆とヤーデン・カッツのAI批評)。旗艦企業であるG​​oogleとFacebookは、ユーザー(つまり私たち)の行動に関するきめ細かいデータを蓄積し、このデータからユーザーに関する知識を抽出し、この知識を活用します。多くの利益を得る方法でユーザーの注意/行動を積極的に形成しようとしています。このスタイルの価値抽出は、基本的な人間の自由の破壊に終わることができるだけだとズボフは主張します。多くのデータが収集され、そこからより多くの予測知識が抽出されるにつれて、私たちすべてのユーザーが新しいマスターである監視資本家の入札を行うため、自己と社会はますます自動化されます。この本は、監視資本主義を確立するためにとらなければならなかった技術的・法的決定の多くを非常に詳細に説明しています。ズボフは、データから価値を抽出して行動を形作るというこの特定の衝動を、彼女が全体主義の親密ないとこである「楽器主義」と呼ぶ社会思想の緊張に結び付けています。「全体主義は暴力の手段によって機能しましたが、道具主義の力は行動変容の手段によって機能します」と彼女は主張します。ズボフによれば、道具主義は人間の行動へのアプローチであり、人間の内部をあまり重視していません。それは彼らが何をするか、特に何を定量化できるかだけを気にするので、この振る舞いは何度も変更することができます。彼女は、道具主義の起源は、刺激と反応、オペラント条件付けなどに焦点を当てた行動主義研究にあると主張している。道具主義の手段が全体主義と異なる場合、目的はほぼ同じです。人間の自由と自律の阻害です。人間の自由の彼女の強調では、Zuboffはトリスタン・ハリス、元Google社員とで著名なトーキングヘッドと共通の何かを持っている社会的ジレンマGoogleのために働いて10年後に良心の危機を持っていた、と今と主張しているハイテク」業界[の...]人々をできるだけ長くそしてできるだけ頻繁に画面に夢中にさせる設計技術」は「人間の心を乗っ取る[...]」です。[システム]システム[...]は、人々が注意を向けているものを操作するのにますます優れており、人々が自分の時間で行うことをこれまで以上に操作するのに優れています。」マックス・ウェーバーが鉄の檻を嘆いているようにズボフが聞こえるなら、ハリスはTEDの話に慣れている昔ながらの道徳的な十字軍の気配を持っています。彼らが人間の心を捕らえ続けたので、別の時間に彼はアルコールやテレビに対して同じように家にいるだろうと感じる人がいます。行動主義者は誰でしたか?20世紀初頭に前面に出た行動主義者は、人間の行動は外部刺激への応答として最もよく理解されていると主張した心理学者のグループでした(複雑な行動は連鎖刺激の結果として発生する可能性があります:刺激は、別の刺激などに)。これらの主張をする際に、行動主義者は2つの衝動に導かれました。19世紀後半の心理学は、人間の心を理解する方法として内省を選択していました。行動主義者は、この方法があまりにも非科学的であり、研究者の主観に依存しすぎていることに気づきました。定量化の時代に、彼らは科学であり、定量的測定と反駁に開かれた心理学、つまりピーター・ガリソンとロレイン・ダストンが「機械的客観性」と呼んだものを中心に構築しようとしました。行動主義の台頭は、当時の社会の変化にも先行していました。刺激するために心理学的洞察を適用する可能性を高めました。20世紀初頭に行動主義が心理学の支配的な思想であったとすれば、1930年代の終わりまでに反発が始まりました。それは1950年代に蒸気を集め、ノーム・チョムスキーによるBFスキナーの言語行動の有名な削除で最高潮に達しました。1960年代までに、行動主義は認知主義(または、必要に応じて認知科学)に置き換えられました。行動主義者が刺激と反応について考えることに自分自身を制限し、心を無関係であるとして却下した場合、認知主義者は人間の心を情報処理システムとして考えました。彼らは、このように考えられたとき、心は科学的に研究されることができると主張しました。確かに、認知学者は、コンピュータープログラム(アーティファクトとコンセプト)が心の働きを研究するための厳密な方法を提供すると信じていました。心をシミュレートするコンピュータープログラムを構築でき、実際、心をコンピュータープログラム自体として見ることもできます。「計画」と実行に従事するエンティティとして。1942年頃の対空砲。行動主義に対するこの反乱はどこから来たのですか?デビッドミンデル、ポールエドワーズ、キャサリンヘイルズ、ジェイミーコーエンコールなどの歴史家は、この反乱を2つの異なる傾向の交差点に位置付けています。難しい技術的問題に取り組んでいる電気技師は、これらのオペレーター制御の技術的メカニズム(上図を参照)を「フィードバック」に応答する「システム」として考えることを余儀なくされていました。自分自身を適応させることによって彼らの環境から。登場するのは時間の問題でした。社会でさえ、すべて「システム」として再解釈されました。線形計画法、オペレーションズリサーチ、およびコンピュータープログラミングの新しい手法は、そのようなシステムを管理および操作できるツール(概念的および実用的)になりました。第二に、そして同様に重要なこととして、行動主義者が人間性をとるのは、米国の冷戦の政治とは相容れないものでした。人々は彼らの環境によって形作られているという行動主義的議論は、全体主義国家に住む市民には当てはまるかもしれないが、米国のような自由社会の市民には当てはまらない。認知科学者は、人間の心は常に潜在的に「開かれた心」であり(権威主義国家によって破壊されていない限り)、非イデオロギー的な方法で情報を処理しようと努めていると主張しました。これは技術的かつ規範的な動きでした。それは、心を研究する方法と、心がどうあるべきかを示唆していました。面白いことに、行動主義と認知主義の間の戦いは非常に個人的なものになりました。(オープンマインドではなく)権威主義的な傾向を示したことを示しようとしました。コミュニケーションエンジニアなど、認知革命の他の旗手と同様に、AI研究者も行動主義に対する反乱の一部と見なし、情報処理者としての心のモデルに取り組んでいました。今日のAI研究は、最初の数十年のAI研究とは大きく異なります。それは確かに正しいです。AI研究の初期の数十年は、人間が推定上知的なことをしたとき、彼らは頭の中で考え出した計画を制定していたという考えを前提としていました。「計画」の民俗概念は、状態空間検索と効用最大化の非常に特殊な技術機構に結びついていました。AIの研究者によると、定理の証明、チェスのプレイ、医療患者の診断はすべて、人間の側で何らかの計画を行う必要がありました(したがって、コンピュータープログラムを使用してモデル化できます)。機械学習の研究者は、知能を言語的に表現されたルールや計画の表現として理解するのではなく、「トレーニングデータ」を使用して計算される関数で構成される「分類子」を構築します。画像に橋が含まれているかどうか知りたいですか?次に、ブリッジを含む一連の画像(つまり、トレーニングデータ)を作成し、それらを使用して統計分類器をトレーニングします。トレーニングが完了すると、分類器は(信頼度が大きく異なる)どの画像にブリッジが含まれているかを知ることができます。ここで重要なのは、ブリッジとは何かという特定のモデルから始めるのではなく、トレーニングデータと学習アルゴリズム(両方とも人間の選択であることに注意してください)に任せることです。この記事が始まったトピックを取り上げてください。画面にコンテンツを表示するユビキタスレコメンデーションアルゴリズムです。それはどのように達成されますか?さて、ユーザーのタイムラインに何を置くべきかを理解するために、Twitterエンジニアは、ユーザーが読んだツイートとそれに費やした時間に関するデータを収集し、そのユーザーがそうするかどうかのスコアを出す分類子を構築しようとしますツイートを読んでください。次に、この分類子(それ自体が巨大で、何百もの入力を吸い込んで出力を提供する)をTwitterの巨大なソフトウェアインフラストラクチャにデプロイし、このユーザーが受け取る可能性のあるすべてのツイート(たとえば、彼女がフォローしているすべてのアカウントから)がこの分類子を介して実行されるようにします、スコアの高いものだけをユーザーに推奨します。推奨されるツイートに対するユーザーの応答は、アルゴリズムのトレーニングデータになります。それはかなり行動主義に聞こえますね?アルゴリズムは、刺激を提供し、応答を測定してから、刺激を再び切り替えることで、特定の方法で行動するようになりませんか?表面的には、確かにそのように見えます。いくつかの複雑な要因があります。第一に、推奨アルゴリズムの設計者は、行動経済学よりも適切な行動主義に動機付けられていないようです。これは、社会心理学と経済学から生まれた制度設計へのアプローチです。Habit-FormingProductsの著者であるNirEyalは、彼が実装しようとした洞察をどこで見つけたかを説明することから始めます。「私は学界からの洞察を探しました。消費者心理学、ヒューマンコンピュータを利用しています。相互作用、および行動経済学の研究。」Eyalはそこで何を見つけましたか?彼は次のように述べています。「ノーベル賞受賞者のダニエル・カーネマンなどの著名人によって研究された行動経済学の分野は、人間行動の合理的なモデルに例外をさらしました。人間は意思決定者にとって最も合理的ではなく、やりたいことを実行するのに役立つ堅牢で適切に設計された「選択アーキテクチャ」が必要であるというこの概念は、行動主義の信条ではありません。歴史家のハンター・ヘイクは、20世紀半ばから、アメリカの社会科学者(心理学者を含む)が調査の対象を再フォーマットしたと主張しています。さまざまな選択肢から選択した人間ではなく、で選択するプロセスを研究し始めました。社会、さらにはすべてのシステムの「システム」のレベル。したがって、社会科学者は、人間が限られた意思決定者であることを示すと同時に、最高の民主主義の芸術に意思決定を提起することができます。ハーバート・サイモンによると満足のいくエージェント、またはノーベル賞受賞者のダニエル・カーネマンによると体系的に非合理的です。公平を期すために、EyalはBFスキナーを利用しますが、適切に設計された習慣形成アプリがユーザーに「部族、狩り、自己」の感覚に報いるために与えなければならないと主張する「可変報酬」の概念を使用します。」しかし、ここでの「報酬」はほとんど「フィードバック」と同義であり、分析は刺激を構築するよりも選択アーキテクチャを設計するという精神で実行されると主張することができます。これらの習慣形成技術は悪い結果につながる可能性がありますか?絶対に、Eyalは言います。彼は、これらの技術は「人々がより良い選択をするように促すために使用されるべきである」と主張するために、ThalerとSunsteinを引用しています。Eyal氏によると、デザイナーは「人々がすでにやりたいことを実行できるように製品を構築する必要がありますが、解決策がないため、実行しないでください」(私の強調)。実際のシリコンバレーのエンジニアは、アルゴリズムの構築についてどう思いますか?証拠はまちまちですが、ほとんどではないにしても、多くのエンジニアが自分たちを行動主義者ではなく選択アーキテクトと見なしていることを示唆しています。人類学者のニック・シーバーは、アルゴリズムによる音楽レコメンデーションシステムを設計するエンジニアの研究で、エンジニアはユーザーを「フック」する必要があると考えているが、フックは多くの経路と目的地がある旅の最初のステップにすぎないことを発見しました。音楽レコメンデーションエンジニアは、ガイド、教育者、サービスプロバイダーなど、さまざまな方法で音楽リスナーとの関係について考えます。Courses(MOOC)の世界で働くアルゴリズム設計者との私自身の民族誌的研究では、同じアプローチを見ました。エンジニアは、(リソース、問題セット、教材の)選択アーキテクチャを構築することで学習者に力を与えると考えていました。彼らはそれをよりよく学ぶことができました。Ozden-Schillingは、電力網設計者に関する彼女の民族誌的研究の中で、受動的な電力消費者を能動的なユーザーに変えるという同様の比喩を使用していることを発見しました。ラスベガスのカジノに関するナターシャ・シュルの民族誌的研究は、非常に異なる物語を語っています。カジノのデザイナーやスロットマシンのエンジニアは、ユーザーを「引っ掛ける」以外に、ユーザーとの関係について高揚した概念を持っていないようです。ある依存症カウンセラーがSchullに不吉に語った「フック」は、単に「ゾーンへのドライブイン」です。ゾーンは、マシンとゲーム以外に習慣的なギャンブラーには何も存在しない意識の領域です。ここでは選択アーキテクチャはありません。フックとゾーンだけです。(「ダークパターン」のもののいくつかもこのカテゴリに分類されます。)要約すると、すべてではないにしても、ほとんどの監視資本主義者とシリコンバレーのエンジニアは、より広い概念レベルでは、ポスト認知主義の概念装置のすべてが意思決定としてモデル化されているため、彼らが行うことを必ずしも個人の自律性と矛盾しているとは見なしていません。このようなシナリオでは、個々の意思決定の情報パラメータを操作して、より高いレベルの「決定」をより最適にすることは、個々の自律性の要約ではありません。これは重要ですか?ダブルバインドに到達するのはここです。一方で、エンジニア自身は、彼らが何をしているのかを個人の自由と自律を阻害しているとは考えていません。学者や活動家がアルゴリズムガバナンスの問題に世間の注目を集めることに成功したのは、多くの場合、個人の自由と自律性の比喩を利用して、それらが設計されたアルゴリズムシステムによってどのように制限されているかを示しています。(今のところ、アルゴリズムシステムの一般の認識を高めるのに役立った他の価値を都合よく無視します:それらは公正で差別的である必要があります。)Facebookをめぐる2つの最大の論争、感情的な伝染の研究とCambridgeAnalyticaを取り上げてください。これらが公の言説で演じられた方法は、認知主義者と行動主義者の間の初期の戦いのいくつかを反映しています。認知主義者は、行動主義は個人の自律性を明示的に侵害しているため、非自由主義的であると主張しました(そして行動主義者もそうでした)。同様に、監視資本主義と社会的ジレンマが強調しているのは、Facebookの違法性(行動主義の比喩を使用してその働きについて書いている)であることがよくあります。行動主義のレンズを通してアルゴリズムシステムの世界における自律性について議論することは永遠に運命づけられていますか?さらに重要なのは、ソーシャルメディアアルゴリズムが行動主義的/非自由主義的であるという議論は、ソーシャルメディアをどのように規制すべきかについての公開討論に勝つのに実際に役立つでしょうか?最初の質問に答えるのは難しいです。2番目のものはさらに重要です。行動主義の亡霊を呼び起こすことが、ソーシャルメディアを規制する戦いで国民の支持を獲得するのに役立つことを願っていますが、私は2つの点で心配しています。Facebookはその推奨アルゴリズムのため、または政治キャンペーンに説得力のある有権者を不意に標的にする能力を与えるため、中毒性があると主張すると、Facebook、Google、YouTubeのパーソナライズアルゴリズムが誇大宣伝されます。Dilemmaの問題は、政治広告アルゴリズムの説得力や素晴らしさなど、最新の手品についてのこれらの企業の自己奉仕的な物語を増幅することになると主張しています。これはケンブリッジアナリティカの場合に最も当てはまります。サードパーティのアプリ開発者との取引におけるFacebookの怠惰さの証拠ではなく、論争は、CAが市民を「操作」してドナルドトランプに投票したかどうかという問題に変わりました。これはまさにCAの提案でした。さまざまなキャンペーンに。第二に、監視資本家は、彼らのアプリがユーザーのパブロフの操作のサイトであるという非難に対抗するために自由に使える知的資源を持っています。認知主義が行動主義を追放して以来、冷戦の研究者とコンピュータープログラマーは新しい自由のイデオロギーを生み出しました。歴史家のフレッドターナーは、冷戦のコンピューターラボが「大規模で、複雑で、[そして]集中化された」テクノロジーを構築したとしても、ラボ自体は「繁栄する[...]非階層的な学際的コラボレーション」の場であると主張しました(p18)。これらの冷戦研究所は、「非常に柔軟で起業家精神にあふれ、参加者にとっては、しばしば非常に満足のいく研究スタイルを永続させる」のに役立ちました(p17)。スチュアート・ブランドやハワード・ラインゴールドのような文化的起業家は、冷戦コンピュータラボ内でのこれらの自由奔放な非階層的なコラボレーションの実践を、新たなカウンターカルチャー運動と、軍産複合体から解放したいという彼らの願望を結び付けました。「サイバートピアニズム」と呼ばれます。デジタルコンピュータ、さもなければ嫌われているシステムと政府の象徴に解放の概念を吹き込んだこれらの起業家。このように、デジタルコンピュータは、カウンターカルチャーが軽蔑した憎悪的な形態の官僚機構(企業または政府)から自らを解放する方法と見なされるようになりました。人類学者クリス・ケルティが主張する、cyberutopiansは自分のアプリがあまりない、ユーザーがより自由にすると信じています。彼らの理論は「ポジティブな自由」の理論であり、人間をさらに自律的かつ自由にするために人間の行動を形作ることの間に矛盾がないことを意味します。]個人を解放(または強制)して、より自由で、より個人的な個人になるように設計されています。サイバーユートピアニズムの例として、2017年のマークザッカーバーグの選挙後のケンブリッジアナリティカマニフェストの「BuildingGlobalCommunity」をご覧ください。「コミュニティ」という言葉は100回以上登場しており、ザッカーバーグはFacebookは本質的に、世界中の人々がコミュニティを構築するために利用するツールであると主張しています。Facebookの目標は、人々が潜在能力を発揮できるようにするソーシャルインフラストラクチャを作成することです。「Facebookでできる最も重要なことは、ソーシャルインフラストラクチャを開発して、すべての人に役立つグローバルコミュニティを構築する力を人々に与えることです。」アルゴリズムシステムを規制するための戦いで、人々はザッカーバーグを信じますか、それともズボフやハリスを信じますか?後者だといいのですが、カリフォルニアの提案22をめぐる争いが何らかの兆候であるとすれば、それが前者であるのではないかと心配しています。それは別の問題を提起:?デジタルプラットフォームの調節を超える戦いで、どのように我々は(で例えばcyberutopianism実証研究への対抗を考えるかもしれませんOLPCのモーガン・エイムズ、デジタル学校のクリストシムズ、および設計上のリリーイラニに)ポイントいくつかの方法がありますが、それはまた別の投稿です。ニーリー殺害の犯人を賞賛する人々のスクリーンショットが含まれています。ペニーをその殺人罪で起訴しました。出会い系サイトとして使用することは容認できません。以前のブログ投稿では、品質と信頼が今日の機械学習エコシステムにおける主要な課題である方法について説明しました。読む機会がなかった場合は、この投稿にジャンプする前に読むことを強くお勧めします。Muskのような率直な先見の明のおかげで、ほとんどの人は少なくとも人工知能(AI)、そのさまざまなサブセット、およびそれらの多くの可能性について基本的な理解を持っています。アンビエントインテリジェンス(AmI)はどうですか?聞いたことはありますか?この新しい分野がこの時点で10年以上存在しているにもかかわらず、心配しないでください。人工知能(AI)アルゴリズムが普及して以来、特にエンターテインメントやソーシャルメディアで最も人気のある製品のいくつかに採用されているため、または自動車の運転に成功しているため、これまでにないほど世間の注目を集めています。イーロンマスクやスティーブンホーキングなど、AIについて話している有名人の科学者の影響を受けて、あらゆる分野の人々が、私たちの生活の特定の側面にアルゴリズムを許可することの倫理的意味と、彼らのキャリアが新しいテクノロジーに置き換えられるリスク。AI革命では、おそらくソフトウェアエンジニアでさえ安全ではありません。機械学習や同様のテクノロジーが経済に与える影響を比較検討する議論では、世界の専門家は大きく2つの陣営に分かれています。私たちが楽観主義者と呼ぶある陣営は、このデジタル革命は、過去の技術的激変のように、経済を脱線させ、失業率を永久にパンデミックレベルに急上昇させることはないと考えています。