AI时代的设计挑战:设计师仍有时间让AI走向正轨
AI时代的设计挑战:设计师仍有时间让AI走向正轨

AI时代的设计挑战:设计师仍有时间让AI走向正轨

每月有创纪录的18亿访客开始使用ChatGPT,可以说AI将拥有难以置信的影响力,并且为我们提供了一个难以置信的机会来设计我们未来的世界。但我们将创造出怎样的世界呢?

不幸的是,这个关键问题在很大程度上未得到解决,因为巨大的竞争压力使公司迫切希望尽快构建和发布新的AI技术。这种争先恐后很容易变成“拼速度”,导致在我们所有人付出代价的情况下制造出有害的产品。

许多公司正在使用GPT-3和其他自然语言处理工具构建应用程序,并就数据隐私、内容审查或有害偏见等问题进行了讨论。当询问他们的设计周期时,发现他们很少在这些关键领域充分考虑他们选择的全部影响,然而他们完全相信自己已经准备好部署他们的技术,或者已经在使用中。

GPT的发布激发了用AI构建未来的热情,但在构建未来之前,难道不应该共同而有意识地设计我们想要的未来吗?

为了在实际中了解风险,可以看看新的AI产品出现的实际问题,并在开发过程的早期通过深思熟虑的设计问题对其进行批判性评估,以防范这些问题。

诸如:为什么我们急于构建生成式AI机器人,它们强化了有害的饮食失调,并取代了受过训练的人类专家?我们真的这么小看艺术(和艺术家),认为“提示工程”能引发同样的自省吗?当AI教练霸占了人类相互交流的时刻,我们的孩子将如何发展创造性和社交情感学习技能?

在公司故意创建剥削性产品的情况下,这些问题成为了“设计特点而非缺陷”,需要通过新的消费者保护法予以解决。然而,相信有很多人想要构建不会伤害人的优秀产品,但缺乏教育和工具。这是一个可解决的“文化”问题,而解决的第一步是问自己:在快速发展的AI领域中,成为一名设计师意味着什么?我们如何利用这个机会来创造一个更加公正的世界?

以下是一些值得考虑的观点:

让我们确立这样一个事实,即在使用AI进行创作的掌权人(在任何高度上)都是设计师,且有责任承担责任。

当新技术出现问题时,通常是由于在开发过程中做出的技术和战略决策导致的,不能简单地说“这是法律团队的工作”。无论是设计用户界面、创建模型、构建后端,还是制定政策,任何在这个生态系统中拥有权力的人都是设计师和决策者。

公司需要招募具有成长心态的设计师,他们能够负责,拥有影响其工作的偏见,并预见到设计选择的影响和后果。公司还需要在最高层面为团队树立责任文化,以便设计师能够进行这些转变。

Tay Chatbot、特斯拉汽车事故和其他基于AI的灾难都是有害的训练数据和缺乏安全功能导致的,然而它们仍被当作“故障”销售,这种委婉的辩解受到了加州大学洛杉矶分校教授和互联网研究学者Safiya Noble的批评。这些需要被重新定义为设计师创造的整体问题,而不是孤立的技术漏洞。

设计师可以采用一组价值观,帮助他们以有益于每个人的方式构建AI。

如何从优先速度转变为优先坚持立场?价值观对于指导行为和决策至关重要。是否相信数据隐私是一项基本权利,因此选择不去利用用户数据?是否认为互联网是公共事业,因此选择建立开放而不是分层的网络?没有价值体系,设计师就会迷失方向,并不可避免地做出伤害人的选择(即使不是有意的)。

公司在招聘时与潜在候选人沟通他们的价值体系至关重要,Mozilla等组织在这方面做得很好。学生和职业人员也需要明确并形成自己的价值体系,这应该是他们教育早期和基础性的一项练习。价值敏感设计和设计正义运动提供了有益的框架。

许多设计师认为他们只是根据一组要求创建和执行代码,但实际上,他们正在构建AI驱动世界。

设计师可以成为社会科学家,而不仅仅是技术梦想家。

AI的发展与现实世界之间的脱节导致了种族和性别歧视,虚假信息的传播,以及青少年心理健康的国家紧急情况。尽管面临这些高风险的社会危机,计算机科学(包括AI)被教授为一门高度技术化的学科,与人文和社会科学无关。那些运用AI的设计师,以及所有其他设计师,在开始构建任何东西之前,都需要了解人类行为、人类社会的结构以及压迫系统的运作方式。

因为AI复制了现实世界的系统(并可能成为其基础),人工智能和计算机教育应该以社会学、语言学、政治学和性别研究为基础。引入弗吉尼亚·尤班克斯(Virginia Eubanks)的《自动化不平等(Automating Inequality)》和鲁哈·本杰明(Ruha Benjamin)的《科技之后的种族(Race After Technology)》等文献,可以提高学生分析他们周围的结构性不平等的能力,了解他们构建的技术如何加剧这些不平等,并预见他们设计选择的积极和消极外部性。通过这种重新定位,学生可以进入现实世界,并理解如何防止数字红线或监视技术的设计。

我们正处在一个转折点,可以运用人工智能和其他新兴技术来塑造更美好的世界,但需要选择以不同的方式思考和行动。这始于对我们真正想要的世界进行深度和思考的设计,并确保我们的角色、使用的工具、学习方式和创造的文化都与之相符。