或许对AI最具冲击性的批评之一是将其称为不科学的.
这一点颇为微妙，因为尽管这并不一定是否定ChatGPT或Midjourney所能做的事情的价值，但它以一种贬低的方式标签化了它们，似乎暗示将它们置于人类关心事物的层次体系的较低端。实用是肯定的，但它们告诉我们关于世界或我们自己的什么呢？几乎没有。
更好地描述AI为一门有抱负的科学，这与不科学不同；它强调的是目标，而不是当前状态。它也没有那么糟糕。将AI称为像物理或生物学那样的硬科学可能有些牵强，甚至连AI研究者都不会赞同到那种程度，然而，现在尊敬的每一个学科都始于一个原始科学，具有当时的质疑和所怀有的抱负。
“有抱负的科学”是一种赞美。说AI实际上并不是一种科学努力是对其可信度的攻击：这意味着它不想成为科学。如果是这样的话，AI就与炼金术没有什么不同。那将是一个大问题。
AI是否是我们这个时代的炼金术？
“炼金术”是一个带有特定色彩的词汇，它是那些不太诚实地试图将其与化学明确区分开来的人所遗留下来的产物。
我们直觉地认为，将任何研究领域与炼金术进行比较等同于将其视为不严肃的领域，注定会被归类为伪科学，与占星术、体液医学和以太理论一起。但AI与炼金术之间的比较不应以如此肤浅和伤害性的方式来解释；可以将其解读为试图揭示研究人员使用的可疑方法，而不是拒绝其成为一门真正科学的可能性。
从这个意义上说，可以接受这个类比：不可否认的是，现代深度学习在没有坚实的理论基础的情况下诞生，里程碑是通过反复试验而取得的，前进的首选方法是将数据和计算投入算法，工作启发法每个月都在变化。缺乏严谨性，几乎完全缺乏同行评审，以及常见的非定向实验，以查看什么有效（通常没有意图验证预先定义的假设）与实验物理学运作方式有着明显的不同。这客观上与古代炼金术相似。
另一方面——这一方面很重要——AI起作用。尽管我们尚未对其最佳应用领域有清晰的直觉，但它已被证明在各个领域都非常有用。实验背后缺乏理论基础并不意味着AI的成就是虚假的（尽管我们在解释时应始终谨慎），相反，实际上正好相反：令人印象深刻，也许令人意外的是，在不知道为什么或如何的情况下走了这么远。
从这个意义上说，AI并不像炼金术，后者既是原始科学，又在实际应用方面相当无用，直到今天仍然如此。
炼金术还是工程科学？
机器伦理学家Thomas Krendl Gilbert并不认为人们应该轻易放弃这种类比；AI与炼金术之间的相似之处并不仅仅体现在它们可疑的方法学上。Sharon Goldman在接受采访时表示，目前构建AI的人们“认为他们正在做一种魔法”，智能是关于在更大的计算机中训练任意构建的神经网络模型，最终将导致超越我们的超级智能。
Gilbert批评AI的构建者们不关心他们所创建的系统背后的机制，将他们的方法视为一种没有理解的神秘探索，这实际上不能带来任何有价值的洞见。
然而，并非所有人都同意这种解释。Meta的Yann LeCun最近反驳了AI与炼金术有关的想法：
“有趣的是，一些人认为理论具有某种神奇的属性，却很容易将真正的工程和经验科学视为炼金术。对事实证明无关紧要的理论结果的盲目信任是神经网络在1995年至2010年间被忽视的主要原因。”
尽管LeCun在这次讨论中似乎与Gilbert持不同立场，但实际上他站在中间，他的立场可以总结为：“既不要摒弃理论，也不要摒弃‘工程和经验科学’。两者都可以有用，都可以富有洞见。”
LeCun链接到了他四年前的一个演讲，题为“深度学习的认识论”，在演讲中，他论述了现代AI，包括深度学习，更类似于工程科学（与自然科学相对，如物理或化学），而不是炼金术。他直接提到了Google的Ali Rahimi在NIPS 2017上的演讲，题为“机器学习已成为炼金术”，并表示，作为他演讲的引言，Rahimi混淆了这两者。
他解释说，工程科学只是使用包括“直觉”或“摆弄”在内的方法来发明新的工件的科学，甚至包括“偶然事件”，也就是几乎任何有助于前进的东西。他说，就像在AI中一样，这更像是一个“创造性的行为”，而不是一个标准化的分析过程。这既不是坏事，也不类似于炼金术，后者从未直接产生任何有价值的东西。
他指出，理论，其在现代AI中的缺乏似乎是攻击的焦点，通常在工件被发明之后才出现，出于对理解的好奇心而驱动。人们首先实现了“是什么”，然后寻找“如何”和“为什么”。其他时候，实验和摆弄与人们对使工件运作的力量和动力学的理解交织在一起，创造了一种洞见和有价值的智慧的双向渠道，需要两者共同发挥作用。
LeCun在这里有一个非常重要的观点：尝试一事无成与尝试不同的事情并获得一系列令人惊讶的结果之间存在着不同。炼金术士从未成功地将铅变成金，也从未发明或发现过哲学之石。而AI则不同，它正取得巨大成功。
现在硅基工具所能做的事情与炼金术士试图转化金属的尝试完全不同。他们一事无成，而AI正在无所不在地发展。从机器翻译到物体检测和识别，再到语音转录，再到像AlphaZero这样的游戏AI以及像AlphaFold这样的学术上有用的系统，以及现代生成算法，它们演变成了ChatGPT和GPT-4。可以肯定的是，从工程学的角度来看，AI的价值无法否认。
也许炼金术并不是那么糟糕
在LeCun发布了他的评论后，Goldman发表了第二篇文章，其中报道了Gilbert的回应，他同意了LeCun的看法，但指出他在分析中忽略了一个关键因素：他属于关心科学的较老一代，而当前的一代不太在乎科学。
“现在很多智力和资金来自那些……真诚地认为他们正在开启由‘超智能’机器促成的新时代的人。这一较年轻的一代，其中许多人在以开放AI或Anthropic等以LLM为重点的公司工作，以及越来越多的其他初创公司，对理论的动机远远不如以前，并且不困扰于公开捍卫他们的工作是否具有科学性……
简而言之，声称是科学家的人不再控制LLM的设计、部署或讨论方式。现在是炼金术士掌权的时候。”
简而言之，AI之所以类似于炼金术，不仅因为它的执行方式类似，还因为首先，像炼金术士一样，从事AI的人对使其工作的基本原理关心程度甚微，其次，他们寄希望于找到一种哲学之石，它可以——而且将会——通过神奇地将硅变成具有智慧和生命的存在来拯救他们。
他们不仅不按科学方法进行研究，而且并不打算这样做。
即使Gilbert是对的，年轻一代的AI研究人员并不真的那么关心科学，甚至不试图将工程与理论有机地联系起来，这也可能不是对AI的强有力反驳——即使炼金术具有伪科学的特质，我们也不应忘记它是化学的前身。
与常见的观点相反，炼金术和化学并不总是相互独立的。它们从截然不同的角度探讨了物质和物理变化的科学，但它们有着共同的历史：早期化学是从炼金术中分支出来，以巩固自己作为一门科学。从这个意义上说，将AI与炼金术进行比较不应该被视为一种侮辱或抛弃，相反，可以说正好相反：在这种观点下，AI是一门尚未揭示和建构的新科学的前身。
当前的AI研究人员和AI科学家可能是某种新事物的创造者，最终将赢得在广泛尊重的学科中的一席之地（如果这个预测让你感到痛苦，因为你真的讨厌现代AI的方式，那么稍微放大一些视野，你就会发现它可能在更大的时间尺度上成立）。
即使现在的一代人对科学不太关心，这可能并不重要。炼金术士不关心科学，因为当时根本没有科学这个概念，但化学还是从炼金术中发展而来。
现代的AI研究人员可能有意识地和有目的地拒绝了对AI的科学方法，这将是一个真正的问题，但他们只是按照他们的启发法和实验进行工作。他们不会阻止任何人尝试进行理论研究（当涉及到最先进系统的规模和成本时，这确实是一个真正的障碍，这就是为什么政府应该投入资源，使现代AI成为一项集体——国家或国际——努力，就像他们在物理或太空探索方面所做的那样）。
正是在这种视角下，应该理解Ilya Sutskever关于AI类似于炼金术的评论以及他对这个类比的接受。他并不是对科学漠不关心，而是寄希望于实验：
“… 我们没有建造事物，我们建造的是一个构建事物的过程。这是一个非常重要的区别。我们建造了提炼数据并将其秘密注入神经网络、哲学石，或许是炼金术过程的炼金厂。但结果是如此神秘，你可以研究它多年。”
所有的追求，从本质上来说，都值得我们的关注
即使炼金术从未通过深入研究严谨和客观的措施而转化为化学，它仍然是值得的！
想想牛顿，除了爱因斯坦可能例外，他被普遍认为是有史以来最伟大的物理学家，甚至可以说是最伟大的科学家。他也对炼金术充满热情。牛顿，微积分的发明者和引力法则的发现者，也对如今被严厉贬低为伪科学垃圾领域的炼金术感兴趣。
历史上对现代科学做出最大贡献的人，同时也可能是最著名的崇拜者，崇拜最广泛的反科学领域。
但是，为什么呢？人们甚至能理解这种不一致的兴趣选择吗？
实际上，答案相当简单。甚至不需要问GPT-牛顿：从他的前科学观点来看，物理学，而不是炼金术，根本不是一个安全的选择。他只是用他拥有的一切手段前进，追求他的兴趣。他尝试了很多事情，受到他无尽的好奇心和崇高的智慧驱使。他的一些努力在深入理解宇宙的过程中取得了深刻的相关性。其他一些，他似乎更加看重，现在被视为是他无可挑剔的履历上的污点。
但是，这种对人们来说看似不容挑战，几乎是平凡的分类，只有在事后才有意义。现在人们知道物理学和数学是有用和有洞察力的，而炼金术不是。对于牛顿来说，这两者都值得追求。他正在玩一个他不能像我们今天那样理解的游戏，多亏了他错误的举动，人们现在可以将炼金术视为不科学。
他足够谦虚，这对于牛顿来说是一个值得注意的事情，他没有因为自己不知道的东西而排除了可能是毫无意义的东西。
他的教训是——从本质来看，没有什么是不值得追求的，这与一些人对AI研究人员的看法形成了有趣的对比。他们经常被批评为傲慢，因为他们使用将AI系统拟人化为智能的隐喻，或者认为AI能够推理、理解或持有今天看来荒谬的信念，比如未来将存在一种比人类聪明数倍的超级智能。这是一种可辩护的批评——人们应该对不知道的事情保持谦逊。
然而，当涉及到可能会为人们的未来提供基础洞察力的各种探索和研究途径时，这些途径或多或少是科学的，他们都是最谦虚的。