颜单新闻
 首页 >>  科技  >>  发展人工智能技术规矩不可少
发展人工智能技术规矩不可少
2019-11-01 07:52:01

内容摘要:近日,两件与人工智能技术应用有关事件引发社会广泛关注。人工智能将学生课堂行为量化分析的问题在于,一是这种技术对学生行为分析的准确性、可靠性与可信度存疑。建立第三方专业组织监督人工智能技术应用的安全性、

最近,两起与人工智能技术应用相关的事件引起了社会的广泛关注。第一个是视频编辑软件,在社交媒体上滑动屏幕。该软件可以方便快捷地用用户上传的任何人的脸替换视频中的角色。事实上,这种视频变脸很久以前就可以通过专业的视频编辑软件来实现,但是需要用户具备相应的技术,而且过程复杂。现在人工智能技术简化并加速了这一复杂的工艺过程,普通人可以轻松控制它。第二张是学生课堂行为分析的图片。人工智能技术统计显示学生的行为,如抬头、看手机、低头、记笔记、打瞌睡等。

变脸的应用需要我们在两个方面保持警惕:第一,这项技术对社会信息传播秩序的影响。传统上,视频对信息的保真度高于文字和图片。视频可以相对准确地传输信息,是社会信息传输系统中的重要媒体符号。这种易于获取且简单的变脸应用程序,如果被滥用,将不可避免地导致通信秩序混乱。其次,此类应用软件收集的人脸信息的合法性、安全性和可靠性受到质疑。人脸、虹膜和指纹等生物识别信息是重要的个人隐私信息。这种信息比地址、密码和其他类型的信息重要得多。地址和密码可以修改,面部特征、指纹和其他生物信息对生命来说是独一无二的,不能更改。后果的严重性怎么强调也不过分。如果此类信息一旦被披露,就无法检索,技术开发人员对此也无能为力,无论是技术开发人员的主观滥用、黑客攻击还是无意披露,都难以检索。现在刷脸已经广泛应用于金融支付、交通运输、公共安全等领域。面部生物信息的泄露给整个社会系统带来了不可估量的影响。

用人工智能对学生课堂行为进行定量分析的问题在于:首先,该技术对学生行为分析的准确性、可靠性和可信度产生怀疑。人工智能毕竟是一种算法。它现在能做的是捕捉个人的行为轨迹,它没有能力准确地判断和识别人类丰富而复杂的社会行为及其发生的场景。这也是一个意义可能大相径庭的行动。技术可以检测到学生低头写字,但是他们是否在写课堂内容或无关信息显然超出了高级人工智能的判断。人工智能可以准确识别学生是否在场,但对课堂上如此复杂丰富的人类行为场景进行绝对定量分析是不可靠的。其次,即使它在技术上是可靠的,以这种量化的方式管理学生课堂学习行为的道德合法性还是有疑问的。我们说教育是以人为本的,因材施教,人不是机器,学生的行为不能完全数字化管理,技术不能奴役人。

这两个事件反映了人工智能技术的迅速发展和广泛应用。然而,我们整个社会似乎仍然需要加深对这一技术的理解,并不准备应对它带来的风险和挑战。

在认知方面,人工智能技术可以高效、有效地解决许多领域的问题,但必须避免所有问题都被人工智能解决。人工智能对于解决机械、无聊、大量数据和简单重复的问题是有效的,但缺乏人情味和人情味。因此,在需要体现人类精神、兴趣、想象力和人性的工作中,必须由人来完成,而不能由技术来解决。技术不是一切。

人工智能技术治理的关键是掌握三个核心关键问题:算法、数据和计算能力。政府应该在算法和数据方面进行立法和监督。确保算法是开放、透明和可监控的。在数据方面,我们将加强对相关技术产品使用的数据类型和规模的监管。应当对涉及人脸特征信息、指纹、血液等方面的人体生物信息从采集、传输和存储等方面进行严格的规范,确保涉及人身安全和国家安全的信息不被滥用,并且是安全可控的。数据应用的用户规模应该与企业的安全能力相匹配。此外,在涉及重要领域和广泛人群的技术应用中,有必要建立与医学研究伦理评价环节相似的人工智能应用伦理安全评价机制,以确保技术发展的正确方向和合理使用。建立第三方专业组织,监督人工智能技术应用的安全性、可靠性和可控性。

企业应落实主体责任。在技术发展过程中,遵循人工智能发展的基本原则:公平、可靠和安全、隐私和安全、包容、透明和负责,以确保技术的可靠性、合法性和符合人类伦理规范。企业应认清底线,不违反相关法律法规,遵循基本社会价值观和公共道德,承担相应的社会责任。在每个软件分发平台中,应严格检查应用程序的权限,以确保用户下载的应用程序的安全性和可靠性。

就用户而言,我们应该提高公众的技术使用质量,培养正确理解和合理使用技术的能力。在人工智能技术的应用场景中,还需要考虑用户的选择,包括是否以及在多大程度上使用人工智能技术。

人工智能作为一种革命性的新技术,无法准确预测未来的技术成果。过去,我们在互联网治理中遵循“先发展后治理”的理念。人工智能技术已经应用于广泛的行业,具有不透明的算法和隐藏的结果。其治理应与其发展同步,应坚持“边发展边治理”的理念。最后,人工智能技术将更好地服务于人类社会的发展。(作者是天津师范大学新闻与传播学院教师张建军)

资料来源:《光明日报》