ChatGPT之父警告AI可能灭绝人类

大家都知道，最近人工智能（AI）比较火，AI也被应用到多个领域，而“ChatGPT之父”等AI领域的行业高官警告称，AI可能灭绝人类。下面大家就和腾阅网小编一起了解一下ChatGPT之父警告AI可能灭绝人类。

ChatGPT之父警告AI可能灭绝人类

财联社5月31日电，超过350名人工智能（AI）领域的行业高管、专家和教授签署了一封公开信，他们在信中警告称，AI可能给人类带来灭绝风险。这封信于周二发表在非营利组织人工智能安全中心(CAIS)的网站上，签署者包括“ChatGPT之父”Open AI首席执行官山姆·奥特曼、DeepMind首席执行官Demis Hassabis、Anthropic首席执行官Dario Amodei以及微软和谷歌的高管等。这封信只有一段话：“减轻AI带来的灭绝风险，应该与流行病和核战争等其他社会规模的风险一起，成为全球优先事项。”

警惕AI技术背后的隐蔽角落

换脸、变声，移花接木，以假乱真……当前，AI技术正在以势不可挡的趋势，创造数字技术生活，为社会带来深刻影响和变革。

然而，在AI技术被广泛应用于各领域的背后，存在着隐蔽的黑暗角落。不法分子利用AI技术进行违法犯罪，对社会安全构成威胁。公安机关在对此类犯罪给予高度关注的同时也向公众发出预警。

从眼下已经出现的利用AI技术实施电信网络诈骗犯罪活动来看，其主要表现为下面几种形式：一是骗子用AI换脸技术，伪装成受害人的熟人、朋友，通过视频通话，进行信息确认，骗取受害人的信任；二是骗子通过骚扰电话录音等来提取声音，获取素材后，利用AI技术进行声音合成，然后用伪造的声音欺骗受害人；三是骗子利用AI技术分析公众发布在网络上的各类信息，根据所要实施的骗术对人群进行目标筛选，个性化定制诈骗脚本，从而实施精准诈骗。

但也有业内人士指出，目前的AI换脸技术若做到融进视频通话中，并达到不卡顿、肉眼难以识别的真实质感，在技术上并非易事。同时，AI换脸换声技术如果被用于诈骗，骗子还必须对被换脸人的外貌、声音、行为习惯、思维方式以及和受害人之间的关系等非常熟悉，否则很容易露出马脚。

当然，技术本身无好坏，关键在于如何利用。AI技术的应用必须符合国家的法律法规以及社会伦理规范。为规范AI技术的合法合规使用，今年1月开始施行的《互联网信息服务深度合成管理规定》，对人脸生成、替换、操控，合成人声、仿声等都有明确约束；今年4月，国家互联网信息办公室发布《生成式人工智能服务管理办法（征求意见稿）》，对AI伪造进行了全面规定。

我国各地公安机关出重拳、全链条严厉打击利用AI技术实施违法犯罪行为。同时，对社会公众来说，针对“变脸”“变声”诈骗，一定要提高防范意识，不轻易向他人提供人脸、指纹等个人生物信息，不在社交平台过度分享个人的动图、视频，一旦发现自己有被骗风险，及时报警求助。

归根结底，在使用AI技术时，要因势利导、趋利避害，坚守法律和道德的底线，使其更利于人类社会的进步发展。