人工智能正在改變我們日常生活中的數字體驗。從個性化產品推薦、預測性醫療到自動駕駛，甚至游樂園的排隊管理，人工智能讓這些體驗變得更便宜、更高效，甚至更愉悅。至少，這是它的承諾。
然而，我們常常看到所謂的“人工智能翻車”新聞——用戶感到被誤導、沮喪，或者干脆覺得不被理解。一旦信任破裂，人工智能真正發揮意義和效力的潛力也就隨之瓦解。
公眾的信任正在流失。為什么？因為大多數系統的設計并未以人類體驗為核心，而是追求快速、可擴展和盈利。對于所有正在加大人工智能投資的企業來說，這應該是一個重大警示。
要重建信任，企業需要停下來思考更深層次的問題：我們為什么要開發這個系統？它是否應該被開發？簡而言之，我們設計人工智能是為了服務人類需求，還是強迫人類去適應機器邏輯？
人工智能的信任鴻溝
人工智能往往在孤立的技術環境中開發，其成功標準是準確性和速度，而非社會影響或可用性。作為信任核心的倫理思考，并未自然而然地融入人工智能的開發流程。這種脫節導致系統在理論上可能創新，卻在實踐中表現不佳。
以加拿大航空的聊天機器人為例，它自信地向客戶提供了錯誤的喪親票價政策信息，而公司卻辯稱不對聊天機器人的言論負責。又如Meta的AI聊天機器人，它在搜索結果中提供了事實錯誤的陳述。這些例子不僅僅是技術故障，更暴露了系統性的設計缺陷——缺乏同理心、安全護欄和現實背景。
公眾已經注意到了這一點。根據皮尤研究中心的調查，59%的美國人和55%的人工智能專家對美國企業負責任地開發人工智能幾乎沒有信心。這種信任鴻溝不容忽視。
以人為本的設計不是奢侈品
設計并非人工智能的裝飾，而是其行為和終端用戶感知的基礎。以人為本的設計始于理解設計對象：他們的目標、挫折、價值觀和現實生活。
在設計過程中，必須提出具體問題以確保技術服務于人類需求，而非相反：
我們為誰設計？
他們的目標、價值觀和挑戰是什么？
他們如何從情感和功能上與系統互動？
產品是否值得信賴？是否名副其實？
它是否促進了包容性和可訪問性？
這些問題并非抽象，它們直接決定了人工智能在現實中的表現。在醫療、安全或教育等高風險領域，它們甚至決定了系統是包容公平還是混亂有害。
優秀設計的模樣
設計師通過原型設計、測試和迭代，將人類需求與機器能力連接起來，確保產品對用戶有意義。這包括思考人工智能如何溝通、自動化哪些決策，以及為用戶提供多少控制權。
以游樂園為例。今年夏天，人工智能被部署用于減少等待時間、個性化體驗和管理人流。這是一個有前景的應用場景。但成功不僅僅關乎效率。一個設計良好的系統會優先考慮人類體驗，而非單純追求效率。這意味著透明的信息傳遞、直觀的界面、清晰的用戶選擇，以及為特殊需求用戶（如沒有智能手機的家庭或殘障人士）提供備選方案。
這里的機會不僅是優化物流和業務運營以提升利潤，更是提升快樂、減少摩擦，創造充滿魔力而非機械感的共享體驗。這正是設計的價值所在。
測試人性化元素
在以人為本的人工智能設計中，測試至關重要。理想情況下，應盡早并頻繁地讓潛在終端用戶參與流程，以發現潛在盲點。如果用戶無法理解或信任一個系統，無論其后端多么出色，這個系統都是失敗的。
測試還能確保可訪問性，而這在人工智能驅動的體驗中常常被忽視。一個聊天機器人可能在技術上功能完善，但如果它無法服務神經多樣性用戶或非母語者，它就不是真正可用的。包容性設計不僅惠及少數群體，還能為所有人強化產品。
責任始于設計
政策可以幫助設定邊界，防止最壞的結果。因此，像歐盟人工智能法案和人工智能權利法案藍圖這樣的框架是重要的一步。但合規只是底線，設計才是我們觸及天花板的方式。
企業必須超越清單思維，構建支持尊嚴、自主和監督的人工智能系統。這意味著抵制完全自動化人類判斷的沖動，轉而設計增強人類能力的工具。負責任的人工智能不會消除人類控制，相反，它會放大這種控制。
這項工作不僅是技術性的，還需要設計師、工程師、政策專家和倫理學家從第一天起就組成多學科團隊協作完成。這意味著與人共同設計，而不僅是為他們設計。
設計師在塑造人工智能中的角色
設計師在塑造人工智能發展軌跡中扮演著獨特角色。他們是翻譯者，既精通機器的結構化邏輯，又理解人類生活的復雜性。設計師擅長識別摩擦點、情感線索和數據無法捕捉的社會影響。
與確保技術服務于人類需求的具體問題類似，設計師必須倡導那些無法簡單歸入訓練數據的問題：
這會讓人感覺如何？
用戶是否掌握控制權？
如果出現問題會怎樣？
設計常常在人工智能流程的最后階段才被引入，只是為了“讓它看起來好看”。但設計的真正力量是戰略性的。它應該從一開始就定義問題，而不僅僅是美化界面。
以人為本，而非以機器為本
人工智能不僅是技術挑戰，更是設計挑戰。要應對這一挑戰，我們必須從一開始就以人類價值觀為核心。
以人為本的人工智能不是奢侈品，而是必需品。它創造了值得信賴、可靠、無偏見、可審核且合規的系統。更重要的是，它構建了造福終端用戶、提升人類生產力和潛力的產品。
我們擁有工具，也肩負責任，去設計一個技術服務于人類而非相反的未來。這一未來始于設計。
精選文章：