科学家警告称,人工智能可能给人类带来“灾难性风险”。
已经对气候变化、核破坏等问题感到担忧的风险分析人士已经将人工智能列入了名单。
ChatGPT的使用也会进一步削弱人类批判性思考的能力。
一位澳大利亚国会议员声称,人工智能的兴起正好与教育的衰落相吻合。这是令人担忧的原因,风险分析师将人工智能(AGI)列为全球关注的重点。
据报道,朱利安·希尔在澳大利亚议会的一次演讲中表示:“如果你开始思考,很快就会意识到未经驯化的AGI带来的破坏性和灾难性风险是真实的、可信的,而且很容易想象。”。“AGI有可能以我们无法想象的方式彻底改变我们的世界,但如果AGI超越人类智能,如果其目标和动机与我们自己的不一致,可能会对人类造成重大伤害。”
随着关于人工智能能力的警告越来越多,人类对AGI缺乏控制是主要担忧,特别是如果“恶意行为者可能利用AGI进行大规模杀伤”,希尔说。
希尔表示,军方已经在寻找AGI作为作战工具。他说:“一个拥有AGI能力的对手可以征服澳大利亚,或者在不受全球共识规范约束的情况下发动社会层面的破坏。”。
为了强调他关于人工智能日益强大的观点,希尔使用ChatGPT撰写了部分演讲,讲述了随着越来越多的学生转向算法进行课堂作业,人工智能如何限制了教育中的批判性思维技能。
随着人工智能的持续快速发展,意外成为了方程式的一部分。希尔说,控制技术可能会保护人类(和人类智力)并导致变革,但技术的不受限制的扩散可能会带来各种意想不到的后果。
“我想传达的关键信息,”他谈到控制AGI时说,“我们必须从现在开始,有意识控制人工智能的发展。”
访谈
更多做行业赋能者 HID迎接数字化浪潮新机遇 破解新挑战
今年3月份,全球可信身份解决方案提供商HID发布了最新的《安防行业现状报告》(以下简称“报告”),该报告…
数字化浪潮下,安防厂商如何满足行业客户的定制化需求?
回顾近两年,受疫情因素影响,包括安防在内的诸多行业领域都遭受了来自市场 “不确定性”因素的冲击,市场…
博思高邓绍昌:乘产品创新及客户服务之舟,在市场变革中逆风飞扬
11月24日,由慧聪物联网、慧聪安防网、慧聪电子网主办的2022(第十九届)中国物联网产业大会暨品牌盛会,在深…