包裝設計大學的設計目的在于代表企業或品牌的形象,良好的包裝設計大學建立起品牌和客戶之間的聯系:
人工智能將徹底改變社會。它將以令人興奮甚至挽救生命的方式做到這一點,就像我們在早期翻譯語言的項目中看到的那樣(用你自己的聲音!),創造助理聊天機器人,制作新的藝術品,更準確地檢測和分析癌癥。
但人工智能也會以有害的方式改變社會,正如預測性警務技術的實驗所證明的那樣,這些實驗強化了偏見,不成比例地影響了貧困社區,以及人工智能無法識別不同的膚色。這些偏見傷害弱勢群體的可能性產生了一種全新的人權關切。隨著試圖遏制這些危險的立法向前推進,設計將成為反映這些變化的一個組成部分。
"我們需要一個與人工智能合作的新框架,一個超越數據責任和創造的框架。"
事實上,有許多公民社會組織、非營利組織、智庫和公司已經理解了人工智能對社會的影響,并一直致力于為這一新興領域創造道德標準。但對于與人工智能合作的設計師來說,我們需要比一般指導方針更進一步的東西,并直接說明設計如何影響和延續技術偏見。
我們需要一個與人工智能合作的新框架,一個超越數據責任和創造的框架。我們需要以人權為中心的設計。
卡羅琳辛德斯在2019年抗免疫球蛋白a抗體(anti-iga antibody)設計大會上發表以人權為中心的設計演講。下面是我們需要這個的原因:AI就是技術,而技術從來都不是中立的。我們如何制造技術,我們如何概念化它,我們如何想象它在文化中的位置,以及當它被放入產品設計時將解決什么問題——這些都是可以對社會產生深刻影響的設計選擇。
以面部識別為例,當用來更容易地解鎖蘋果手機時,它似乎相對無害。這種技術在被執法部門使用時,可能會對另一個人造成嚴重傷害,因為它可能會為某些群體(如女性和有色人種)提供錯誤的匹配。
通過在設計過程的開始以及整個過程中提出關鍵問題,這些危害可以在這些產品的開發階段得到抑制。這就是以人權為中心的設計的用武之地。我一直用這個詞來描述受聯合國1948年《世界人權宣言》啟發的設計方法,該宣言概述了賦予所有人的不可剝奪的基本權利,包括言論和表達自由、安全和所有人的自由。
以人權為中心的設計堅持為產品的使用者提供同樣的主權和保護。本質上,這意味著尊重用戶的隱私和數據,考慮全世界人民的數字權利(而不僅僅是在我們自己的后院),并為所有人設計。
以人權為中心的設計的六項原則是:
以人權為中心的設計首先是關于隱私和數據保護,認識到數據是人類固有的,并且永遠是人類的。
它將用戶的代理放在第一位,始終關注同意。總是給用戶提供一個說是或不是的方法,不要被欺騙或推搡。
它在設計時不會只考慮選擇退出;它把選擇放在設計的最前面。
它首先為全球南方設計,并以多樣化的體驗為中心。
它主動詢問"這個產品會出什么問題?"—從良性到極端—然后為這些用例制定計劃。
它認為誤用的情況是嚴重的問題,而不是邊緣情況,因為一個病菌在被修復之前是一個特性。
因此,再次使用面部識別技術的例子,以人權為中心的設計方法會問:用戶是否知道面部識別正在用于iPhones、CCTV攝像頭和招聘軟件等產品中?他們能選擇這種用法嗎?如果他們試圖退出,會出現什么樣的權力失衡、摩擦或傷害?它對一個群體比另一個群體更有效嗎?
“艾就是技術,技術從來都不是中立的。"
以人權為中心的設計最重要的原則之一是首先為弱勢用戶和非西方用戶設計硅熨斗的執行董事李正吉斯捷潘諾維奇建議,通過擴展"誰是你的用戶"的概念來做到這一點。
"這些系統中有很多是由擁有相當特權背景的人設計的,他們根據自己的理解為特定的用例設計它們,"她說。"對于這些系統最終服務的人群來說,這可能不是最好的使用案例。如果你沒有提前考慮這些人群,并基于他們進行真正的評估,這就是許多設計決策最終失敗的地方。"
進行大規模的人種學研究可能會很昂貴,這種研究是大型科技公司可以在全球范圍內組織的。然而,小型創業公司和公司可以也應該思考他們的產品在美國和西方之外使用時會如何造成傷害。一個很好的參與方式是接觸不同類型的民間社會