電影主要講人工智能的算法怎么被用來評估每個人在社會系統(tǒng)中的價值以及其中的問題，即算法會復制甚至加劇這個世界長久以來的偏見，比如比法院會參考一個所謂的“再次犯罪率”的算法給予假釋，“科學計算”出有色人種的再犯罪率更高；算法被學校用來評價老師的”附加價值”，被公司用來篩選簡歷，被銀行用來計算信用，結論是女性更容易被AI HR淘汰，且比男性的金融信用差。以下是電影的幾個觀點： 1）技術到來總伴隨著不平均。不平均并不是說有錢人比窮人先擁有技術，而是說更具有侵犯性的技術往往先被用弱勢群體身上做實驗（在紐約，人臉識別門禁率先被房屋出租公司裝在低收入有色人種集中的公寓，并將其制造成一種類似交通攝像頭的罰款工具，用監(jiān)視的圖像作為對租戶違反公寓樓規(guī)定的證據(jù)）。 2） 目前人工智能在社會中廣泛應用主要有兩種模式：一種是維穩(wěn)，一種是獲利。沒有一種為自由和平等而存在的算法。 3）只要連接到網(wǎng)絡社會，世界上每個人都被算法打著各式各樣的分，你在某些系統(tǒng)中看起來更不可能犯罪，但同時，你也會另一些系統(tǒng)中為同樣的商品付更多的錢。人們談到算法監(jiān)控總愛說中國如何如何，其實本質的不同只是中國對這種監(jiān)控毫不掩飾而已。 > We are all grappling every day with algorithmic determinism. [...] We are all being scored. The key difference between the US and China is that China's transparent about it. 4）反烏托邦可能最終不會像《1984》所描述的那樣實現(xiàn)，而是像現(xiàn)在一樣，靜悄悄地侵入每個人的生活。哪怕你能躲過看得見的攝像頭，看不見的追蹤和信息收集軟件卻難以避免。這些信息會泄漏你的軟肋，甚至左右你的決定。（比如給奢賭者推送拉斯維加斯的打折機票，比如Facebook按個人的政治傾向有選擇地推送大選投票信息。） 5） 算法設計的奧義是自動化和高效，但很多時候，人性意味著拒絕服從，拒絕系統(tǒng)定義的價值。如果把自動化作為一切問題的終點，在有的情況下會造成非常不人道甚至是毀滅性的結果。 6）人工智能的定義到底是什么？這是值得思考的問題。下棋比人類厲害？會分析數(shù)據(jù)？社會對于科學和技術的理解其實是由很少數(shù)一部分精英定義的，他們大部分都是白人、男人。 7）正義地使用算法是現(xiàn)在最緊要的人權問題之一。 紀錄片試圖代入國際視野，拍攝了英國、南非、香港、和中國大陸的片段。雖然落腳點是對算法廣泛應用的質疑，但關于中國的影像始終是“反烏托邦”式的，即便是所謂的“全世界都被監(jiān)視著”這一論點也還是中美二元思維。對全球的描繪只能說是對美國現(xiàn)狀的注腳而已，分析并不到位。 很喜歡電影里的主要人物、也是算法正義聯(lián)盟的創(chuàng)建者Joy Buolamwini，她日常寫一些短詩送給一起努力的合作者，很有感染力。另外，AOC在國會討論一節(jié)短暫出境。 Joy Buolamwini 在電影中念的一首小詩： collecting data, chronicling our past, often forgetting to deal with gender, race, and class. again, I ask, am I a woman? face by face, the answers seem uncertain, can machines ever see my queens as I view them? can machines ever see our grandmothers as we knew them? 收集數(shù)據(jù)，記錄我們的過去，總是忘了去考慮性別、種族和階級。讓我再一次拷問，（在你的眼里）我是女性嗎？一張又一張臉，你的答案似乎難以確定。機器可以看到我所看到的女王嗎？機器可以看到我們所認識的祖母嗎？ 一些擴展資源： Weapon of Math Destruction (電影中AJL一員 Cathy O'Neil寫的書) Twitter and Teargas by Zeynep Tufekci (作者在電影中出鏡) Algorithmic Justice League (美國的組織，可通過官網(wǎng)郵件訂閱信息) Big Brother Watch (英國的組織)