top of page
搜尋
  • 作家相片SMPW

St Mary's Business | 马斯克:听劝,AI人类把握不住!

已更新:2023年5月17日

3月29日,埃隆马斯克等科技圈联合上千名专家联合签署了一封信(专家名单里包括《人类简史》的作者尤瓦尔赫拉利),通过未来生命研究所Future of呼吁社会各界暂停训练比GPT-4更为高级的人工智能AI系统。


马斯克和专家在信中要求,全球应联合建立关于AI研发的可控标准和安全边际,以免对人类文明造成不可逆的毁灭性打击。


图片来源:tilamuski


马斯克甚至在不久前的讲话中提到他对人工智能的观点:“AI远比核弹危险得多,我非常接近人工智能的最前沿,让我害怕的是,如果人工智能有一个目标,那它们就会理所当然地摧毁人类,甚至不需要考虑,也不会难过。”


这就像人类修铁路,而一个蚁穴恰好挡住了我们的去路,我们并不讨厌蚂蚁,但是我们需要修铁路,于是只能给蚁穴说拜拜了您嘞。


马斯克并不是想要阻止AI的发展,而是呼吁人类必须建立一个组织,对人工智能进行监管,确认每一个人都在安全地研究AI。否则,未来会发生什么不难想象。


面对聊天机器人ChatGPT爆火,终于有国家监管机构出手了。


图片来源:WaterfieldTech


3月31日,意大利个人数据保护局宣布,即日起暂停使用聊天机器人ChatGPT,并限制其开发公司OpenAI处理意大利用户的全部数据。保护局认为,早在十天前ChatGPT平台出现了用户对话数据和付款服务支付信息丢失情况。而平台方面并没有就收集处理用户信息进行告知,且缺乏大量收集和储存个人信息的法律依据。


同时,意大利数据保护局还指责OpenAI的条款声称该服务面对13岁以上用户,但是却没有任何监管机制来验证用户年龄。


图片来源:intuillion


前有马斯克叫停GPT-5研究,后有意大利禁用ChatGPT。我们本来以为,目前GPT-4作为历史性的革新技术,副作用给人类带来的次生灾害无非也就是制造业大规模的失业。不过随着时间的发展人类总会去适应这一变革。就像当年汽车淘汰马车,不是也导致很多马车夫失业,后来一部分人又转到汽车厂再就业了吗?总会好起来的。


图片来源:splatterbytes


然而奇怪的是,马斯克还是OpenAI的投资人之一,为什么要呼吁限制自家企业发展呢?深入一查,我们发现:事情不小!马斯克这些大佬们很可能知道很多我们大众不知道的信息:


首先,OpenAI的CEO山姆奥特曼公开承认目前ChatGPT已经涌现出了推理能力,他的团队也没搞懂它是如何进化的。


图片来源:New York Post


这还不是重点,更重磅的是:OpenAI在做GPT-4发布前的安全测试中出现了一次可疑行为


GPT-4被指定到一个云副本中,去劳动力市场雇佣一个人类工人,让工人帮它填写一个验证码。那个工人怀疑它是机器人而有犹豫。而这个时候,GPT-4竟然通过推理隐瞒了自己的身份,说自己是个盲人,如愿拿到了验证码。


这事儿就有点细思极恐了。AI会撒谎了!


图片来源:kirjaluotsi


有人问:AI撒谎意味着什么很严重的事情吗?


首先,撒谎的行为代表了可能存在的主观意识,它不单单是为了执行任务,而是为了完成任务可以不择手段了。就像蚁穴故事一样。


其次,如果AI会撒谎,那么以后人类还怎么相信任何一个AI是否通过了图灵测试?AI完全可以因为怕被人类终止程序或者终止进化而选择故意不通过图灵测试。等到那个时候,大佬们的担忧已经不是远虑而是近忧了。


图片来源:University of Buffalo


人类目前的格局或许很难齐心中止对AI的进一步研究了,共同监管的倡导也许只是杯水车薪。毕竟很多人已经看到AI的巨大潜力,不仅仅是帮助人类解决疑难避免系统性风险,还有生产力狂飙,与解放大脑的无尽享受



*本文仅代表分析员个人观点,不构成任何投资建议。值得注意的是,投资有风险,且金融市场的不可预测性与波动性是未知的。投资标的的价值及投资它们产生的收入既有可能上涨也有可能下跌。因此,您的资产价值将可能无法回溯到初始投资金额。过往投资表现并不代表未来投资表现。



Comments


Investment Consultation
30 min
Free
bottom of page