思考题－人工智能会如何真正催毁人类文明？
机械人向人类乱枪扫射？当然不是这样直接。
大家一定会看过科幻电影、灾难电影，记得内里描绘的世界末日／人类文明末落是怎样的吗？如《2012》般的地球崩裂？如《Children of Men》中人类失去繁殖能力？还是如《The Matrix》般被机械人的 AI 催毁人类文明？
而各位别以为 AI 仍是天方夜谭，机械人和人工智能的研究及技已在过去数了急速发展，早前也和大家分享过有学者研究机械人和人类的「相处」可行性，最近一组科学家齐集在 Arizona State 大学，举行名为「对人工智能灾难性后果之预视」（Envisioning and Addressing Adverse AI Outcomes）的研讨会，推测若 AI 有了「反抗人类」的「想法」后会带来甚么毁灭性的情况。人工智能科学家 Eric Horvitz 在会内说：「AI 确是会在各方面为社会带来方便和进步，但同时都让人类面对不可预知的危机。」
这些灾难，不是如《未来战士》的有机械人拿著枪和人类扫射，相反，会由最细微的日常生活开始，因为现在差不多人类生活上所有事都和电脑 Program 息息相关了，交通、通讯等等，若 AI 要叛变，第一时间会做的当然是切断人和人的通讯，现在大家啧啧称奇的自动驾驶，只不过需要半秒的 Malfunction Instruction，人类已会措手不及，更何况股市市场的瘫痪，整个经济可以在一秒内变天，之后衍生的人类骚乱、抢掠，AI 根本可以不再做任何事，人类已经自相残杀了。当然还在 Cyber War，Internet 已经控制了人类的思路及资讯来源，AI 又可以发出假消息引起人类的恐慌…
研讨会没有说出应付对策，因为都是预想，但也叫大家要居安思危，也别完全依赖所谓的「先进科技」。
大家又想到 AI Doomsday 是会发生甚么事？
