影片主要講述了人工智能算法如何用來評估社會系統(tǒng)中每個人的價值以及其中存在的問題，即算法復(fù)制甚至加劇了世界上長期存在的偏見比如，法庭會參考所謂的“再犯率”，用算法來準予假釋，“科學(xué)計算”顯示，有色人種的累犯率更高，學(xué)校用算法來評價教師； “附加值”，從公司篩選簡歷，從銀行計算信用女性更容易被AI HR淘汰，財務(wù)信用比男性差以下是影片中的一些觀點：1）技術(shù)的到來總是伴隨著不平等不平等并不意味著富人先于窮人擁有技術(shù)，而是意味著更具侵入性的技術(shù)通常首先在弱勢群體身上進行實驗（在紐約，面部識別門禁控制首先由租賃公司安裝在低收入有色人種身上）

將公寓集中起來，變成類似于交通攝像頭的精細工具，利用監(jiān)控圖像作為租戶違反住房規(guī)定的證據(jù)）。

2）目前，人工智能在社會的廣泛應(yīng)用主要有兩種模式：一是維持穩(wěn)定，二是盈利不存在實現(xiàn)自由和平等的算法3）只要你連接到網(wǎng)絡(luò)社會，世界上的每個人都會被算法以不同的方式評估你可能在某些系統(tǒng)中看起來不太可能犯罪，但同時，你在其他系統(tǒng)中也可能是一樣的為商品支付更多費用當(dāng)人們談?wù)撍惴ūO(jiān)控時，他們總是喜歡談?wù)撝袊聦嵣?，本質(zhì)的區(qū)別在于，中國對這種監(jiān)視毫不掩飾

> 我們每天都在與算法決定論作斗爭。

[...]我們都會被槍殺美國和中國之間的主要區(qū)別在于中國是透明的

4）反烏托邦也許最終不會如《1984》所描述的那樣實現(xiàn)，但會像現(xiàn)在一樣悄悄侵入每個人的生活。

雖然你可以避開可見的攝像頭，但看不見的跟蹤和信息收集軟件是不可避免的這些信息將揭示你的弱點，甚至影響你的決定 （例如，豪華游戲上印有前往拉斯維加斯的折扣機票例如，F(xiàn)acebook 根據(jù)個人政治傾向選擇性地印制大選信息）5）算法設(shè)計的秘訣在于自動化和高效，但很多時候人性意味著不服從、拒絕系統(tǒng)定義的價值如果自動化被視為所有問題的終點，那么在某些情況下會造成非常不人道甚至是破壞性的結(jié)果6）人工智能的定義是什么？這是值得思考的事情比人類下棋更好？你能分析數(shù)據(jù)嗎？社會對科學(xué)技術(shù)的理解實際上是由一小群精英定義的，其中大多數(shù)是白人和男性7) 算法的合理使用是當(dāng)今最緊迫的人權(quán)問題之一這部紀錄片試圖引入國際視角，捕捉來自英國、南非、香港和中國大陸的圖像雖然出發(fā)點是質(zhì)疑算法的廣泛使用，但中國的形象一直是“反烏托邦”的，甚至所謂“全世界都在被監(jiān)控”仍然是中美之間的二元思維對世界的描述只能說是對美國現(xiàn)狀的注腳，分析的不合時宜我非常喜歡喬伊·布拉姆維尼（Joy Buolamwini），他是電影中的主角，也是算法正義聯(lián)盟的創(chuàng)始人她每天寫短詩并發(fā)送給同事，很有感染力此外，AOC 在國會辯論期間短暫離開該國喬伊·布拉姆維尼在影片中朗讀了一首短詩：收集數(shù)據(jù)，記錄我們的過去，常常忘記處理性別、種族和階級我再次問，我是女人嗎？面對面時，答案似乎不確定，機器是否總是能像我看到的那樣看到我的皇后？機器曾經(jīng)見過我們所認識的祖母嗎？在收集數(shù)據(jù)和記錄我們的過去時，我們總是忘記考慮性別、種族和階級我再問一遍，（在你眼里）我是女人嗎？一張又一張的面孔，你的答案似乎轉(zhuǎn)瞬即逝機器能看到我看到的女王嗎？機器能看到我們認識的祖母嗎？一些擴展資源：Weapon of Math Destruction（數(shù)學(xué)毀滅武器）（電影中 AJL 成員 Cathy O'Neil 所寫的書）Twitter 和 Teargas 作者：Zeynep Tufekci（作者出現(xiàn)在電影中）算法正義聯(lián)盟（美國組織，可以通過官網(wǎng)郵件訂閱信息）Big Brother Watch（英國組織）