故事的开端：知识的孤岛
很久以前，有个村庄开始流传关于大海彼岸未知之地的传闻。几位探险家乘小船出发，回来后说在海岸附近发现了一个小岛。他们自信地宣称，已经看到了“新大陆”的一切，并喊道：“外面全是沙子和石头！”
村民们信以为真。他们不再梦想去往未知之地的伟大航行，对那片土地的可能性也渐渐遗忘。他们所得的关于“小岛”的零星知识，就这样关上了探索广阔大陆的大门。
今天，我们预测人工智能（AI）未来的样子，可能和当时的情况差不多。我们或许才刚抵达AI这片巨大大陆的海岸线，却已经自以为无所不知了。这样的误解，又会将我们引向何方呢？
自信的陷阱：我们为什么会出错？
心理学上有个有趣的理论叫“达克效应”。意思是没有掌握某个领域知识的人，往往会高估自己的能力。就像站在山脚下的人，以为很快就能登顶一样。
AI领域也出现了类似的情况。
- 新手时的自信： 刚开始学习AI的人，或者被某些局部成功案例吸引的人，常常会过于乐观或悲观地断定AI的未来。“AI会解决所有问题！”或者“AI将导致人类灭亡！”这样的极端预测很常见。
- 专家的谨慎： 反观那些研究AI几十年的真正专家，反而更加谨慎。他们深知AI的复杂性，以及其中充满的未知变数。这就像经验丰富的登山家，知道山脉的宏伟和危险，所以更加谦逊。
2015年，许多AI专家预测，AI要战胜人类围棋冠军，至少要到2027年。但仅仅一年后，2016年，AlphaGo就战胜了李世石九段。这便是一个很好的例子，说明我们的预测多么容易出错。
错误的预测带来的危险未来
你可能会想：“预测有点偏差又有什么关系呢？”然而，草率的预测和盲目的信任，可能会带来比想象中更危险的后果。这里有一个非常现实的故事。
故事：“完美招聘”AI的背叛
2024年，一家追求创新的IT公司“未来科技”预测AI能“彻底消除人类偏见”，并雄心勃勃地引入了AI招聘系统“神经匹配”。这个系统学习了过去20年成功员工的数据，旨在挑选出最优秀的人才。所有人都欢呼，认为公平招聘的时代到来了。
那一年，技术精湛的开发者候选人“民俊”申请了未来科技的职位。他拥有出色的编程技能和骄人的获奖经历，但却在简历筛选阶段屡屡被拒。他不知道原因。
秘密在于“神经匹配”学习的数据。过去20年，IT行业一直是男性主导，成功的员工数据也大部分是男性。AI在不知不觉中，将“男性”这一特质学习成了“成功员工的关键指标”。甚至算法还被设计成，对“棒球队社团活动”这类男性化的课外活动加分。而民俊简历上的“针织社社长”经历，可能反而成了扣分项。
“没有偏见，完美招聘”的草率预测，最终导致了“自动复制过去歧视”的危险现实。未来科技错失了顶尖人才，而AI则成了加剧社会偏见的工具。
1. 走向错误方向的投资
就像民俊的故事一样，对美好未来的预测会让我们把大量资源和人才投入到不切实际的目标中。过去许多技术预测都曾声称“即将商业化”，吸引了大量投资，但最终却迎来了“AI寒冬”，黯然消逝。AI项目高达80%的失败率，证明了我们正有多少准备不足地冲入未来。错误的地图，可能将我们引向悬崖，而非目的地。
2. 滋养我们内心偏见的AI
我们用来教导AI认识世界的数据，本身就饱含着我们的偏见。基于过去数据预测未来的AI，可能会进一步放大这些偏见。就像“神经匹配”的例子，学习了特定性别或种族歧视性数据的AI，在招聘或贷款审批时可能做出不公平的决定。这不仅仅是技术错误，而是会加剧社会矛盾的危险火种。
3. 让我们忽视真正问题的虚幻泡影
当我们沉迷于“超越人类的超级智能（奇点，Singularity）”这类宏大而刺激的预测时，很容易忽视当下亟需解决的重要问题。AI制造的虚假新闻、算法操纵舆论、大规模失业、巨大的电力消耗带来的环境问题等等，这些都是我们已经面临的现实。在讨论遥远的乌托邦或反乌托邦之前，我们是不是应该先扑灭眼前的火焰？
手握指南针，而非地图
我们可能是探索AI这片未知大陆的第一代人。我们手中不应是现成的地图，而应是指示方向的指南针。
与其草率预测，限制自身潜力或走入危险的歧途，不如一步一个脚印，谨慎前行。要不断提问，批判性思考，最重要的是，要懂得“我们不知道什么”的谦逊。
当我们开始过度自信于自己的认知时，知道就变得危险了。AI的未来并非注定。它取决于我们的选择和负责任的探索。为了不迷失在迷雾中，我们不应盲信地图，而要坚持手中的指南针——即指向正确方向的伦理和哲学思考。