德蒙福特大学网络安全

来源:环球时报

英国《新科学家》周刊网站8月7日文章,原题:人工智能聊天机器人能否受到“说真话”法律义务的约束人们能要求人工智能讲真话吗?或许不能,但一个伦理学家团队表示,从法律上来说,人工智能开发商应该承担减少犯错风险的责任。“我们只是在尝试创建一种激励构架,让公司在创建(大语言模型)系统时更重视真实性或准确性,”牛津大学伦理学家布伦特·米特尔施塔特说。

基于对大量文本的统计分析,大语言模型聊天机器人,例如ChatGPT能对用户提出的问题生成类似人类的回答。然而,尽管它们的答案通常看起来令人信服,但也容易出错,这是一种被称为“幻觉”的缺陷。米特尔施塔特说:“我们拥有这些极其令人印象深刻的生成式人工智能系统,但它们也会频繁出错,从我们对这种系统基本机能的了解来看,没有根本的解决方法。”

米特尔施塔特表示,对大语言模型系统来说,这是一个重大问题,因为它们正在被应用于政府决策,在这种情况下,它们诚实地承认自己的知识局限性就变得至关重要。为解决这个问题,他们提出一系列应对措施:当被问及与事实有关的问题时,人工智能应该像人一样。这意味着它们要诚实,秉持“知之为知之,不知为不知,是知也”的态度。“要点在于采取必要步骤,让它们真正做到谨言慎行,”米特尔施塔特说,“如果对某件事不确定,它们不要只是为了让人们信服而编造一些东西。相反,它们应该说,‘嘿,你知道吗?我不知道。让我来研究一下。我会回复你的。’”

这似乎是一个值得称赞的目标,但在英国德蒙福特大学网络安全教授伊尔克·鲍伊腾看来,伦理学家提出的这些要求在技术上未必可行。开发商正尝试让人工智能实事求是,但到目前为止,事实证明这是一项极其“劳动密集型”的任务,甚至不切实际。“我不明白,他们怎么期望法律要求强制执行这种命令,我认为这在技术上根本行不通,”鲍伊腾说。

为此,米特尔施塔特及其同事们提出一些更直接的措施,可能使人工智能更“诚实”。他说,这些模型应该列出答案的信息源,目前许多模型都在这样做以证明它们给出答案的可信度,此外,更广泛地使用一种被称为“检索增强”的技术来给出答案,也可能限制这些模型产生“幻觉”的可能性。他还认为,应该缩减在政府决策等高风险领域部署人工智能的规模,或者应该限制模型可利用的信息源。“如果我们有一个仅在医学中使用的语言模型,我们就应该限制它,让它只能在高质量医学期刊上搜索学术文章。”

米特尔施塔特声称,改变观念也很重要,“如果我们能摆脱所谓(大语言模型)善于回答事实性问题、或者它们至少会给你一个可靠答案的想法,而是认为它们有助于为你提供更多相关的信息,那就太好了。”

但荷兰乌得勒支大学法学院副教授卡塔琳娜·戈安塔表示,这些研究人员过于关注技术,因此对公共话语中长期存在的谎言问题关注不够。“在这种背景下,仅将矛头指向大语言模型会制造一种假象,即人类非常勤奋细致,永远不会犯此类错误。问问你遇到的任何法官,他们都遇到过律师玩忽职守的可怕经历,反之亦然——这并非一个机器的问题。”(作者克里斯·斯托克尔-沃克,王会聪译)

声明:壹贝网所有作品(图文、音视频)均由用户自行上传分享,仅供网友学习交流,版权归原作者wangteng@admin所有,原文出处。若您的权利被侵害,请联系 756005163@qq.com 删除。

本文链接:https://www.ebaa.cn/45451.html

(0)
上一篇 2025年6月4日
下一篇 2025年6月4日

相关推荐

  • 伊利诺伊大学香槟分校女学生被害

    失踪22天以来,赴美交流的章莹颖被绑架事件一直牵动着无数人的心……现在,终于有了最新消息,美国联邦调查局宣布,已逮捕一名涉嫌绑架中国访问学者章莹颖的27岁男子。联邦调查局表示,相信章莹颖已经死亡。 联邦调查局:嫌犯已被逮捕 当地时间6月30日晚,美国联邦调查局(FBI)宣布已经逮捕涉嫌于6月9日绑架中国访问学者章莹颖的27岁男子克里斯滕森,表示根据调查情况不…

    2024年11月24日
  • 新西兰维多利亚大学好申请吗_新西兰维多利亚大学留学费用

    维多利亚大学好申请吗 要成为惠灵顿维多利亚大学的学生,良好的英语水平和优秀的学术成绩是根本。 语言:12周一轮,没有雅思要求。 预科:学制8个月。高二完成学生,均分80%以上,高三完成学生,均分70%以上。雅思5.5分,单项不低于5.0. 本科:完成预科,成绩优秀;完成本科一年级或者大专二年级,均分70%以上,雅思6.0分,单项不低于5.5. 研究生:完成本…

    2024年3月7日
  • 美国留学博士费用_美国留学博士费用一年大概多少人民币

    美国的教育在国际上享誉盛名,哈佛大学、麻省理工、哥伦比亚大学、斯坦福大学等等,是多少同学们的梦中情校。 今天小曼就带大家看一下美国博士申请的申请时间、申请条件和所需材料、还有花销 #1 美国申博时间规划 01、 3月-5月 确定申请院校、研究领域,了解心仪导师 02、 3月-10月 完成标准化考试、准备申请资料,优化学术背景 03、 9月-11月 导师套磁 …

    2024年4月12日
  • 洛桑联邦理工学院材料专业怎样

    关于瑞士: 瑞士联邦(Swiss Confederation),简称瑞士,成立于1291年,全球有三分之一的钱都存在瑞士。首都伯尔尼,位于欧洲中部的一个城市,北部与德国接壤,东边临近奥地利和列支敦士登,南部靠近意大利,西临法国。地处北温带,四季分明,全国地势高俊,矿产资源匮乏,森林及水力资源丰富。瑞士有四种民族语言:63.7%的居民说德语,20.4%说法语,…

    2024年1月9日
  • 德国留学毕业难吗

    德国留学为什么难毕业?不要学费也很少有人去!主打的就是一个“少小离家老大回” 考试非常难,只要你不是真的懂是过不了的,考试只要不抄写同学的,其他辅助工具随便用,因为你找不到答案留学德国的同学里,能拿到本科毕业证的就一个,留德第一份工作起步就是30多万欧。还是山东大学拿到学士学位毕业后再去读的德本,大部分都是折腾七八年最后毕不了业。我儿子在德国读硕,德国大学不…

    2024年5月3日
  • 墨尔本国际学校有哪些_墨尔本国际学校有哪些学校

    墨尔本位于澳大利亚东岸,是澳大利亚的最大城市,也是维多利亚州的首府,这座城市都有哪些好的学校适合留学呢?下面就给大家来介绍下吧。 一、墨尔本大学 位于澳大利亚维多利亚州墨尔本,建校于1853年,为澳大利亚历史第二悠久的大学、维多利亚州最古老的大学。墨尔本大学是澳大利亚六所砂岩学府之一,八大名校的盟校成员,也是Universitas 21、环太平洋大学联盟和亚…

    2024年2月26日
  • 意大利的佛罗伦萨大学

    7月6日12点,周杰伦新专辑《最伟大的作品》先行曲MV首播时隔六年,周杰伦重磅打造这张专辑,小编反复看了好多遍MV,满满的都是崇拜呀,当年在意大利偶遇周董的回忆、人生中有且仅有的一次巧遇偶像的美好回忆又都涌上了(激动)~~ 图片来源于昆凌个人微博 要知道,周董两夫妻对于意大利是相当地情有独钟,佛罗伦萨更是他们度假常去的地方,今天我们就来介绍一下诞生于文艺复兴…

    2024年12月28日
  • 法国留学申请(法国留学申请条件)

    #留学# 法国是一个浪漫到极致的国家,在那里,人们可以散步于塞纳河畔、低徊于香榭丽舍林、可以在酒吧里小酌、也可以在咖啡馆里细语。 除了浪漫的生活氛围,法国的文化教育底蕴也十分厚重丰富。学习法语比学习英语要难很多,因此很多人误以为去法国留学很难。很多人认为去法国留学首先要学会法语,其实不然。那么法国留学具体有哪些建议呢? 1.仔细了解申请流程和要求:在开始申请…

    2023年11月22日
  • 美国留学学费(美国留学学费怎么交)

    美国留学学校的性质不同,学校所在城市和区域经济发展程度不同,学生消费习惯不同等等,都会影响留学成本,所以留学的成本并不能准确计算出来。 今天做美国高端留学规划申请11年的北京美弗留学洛老师将根据最近两三年的统计资料,对美国大学的留学费用做一个介绍,以供大家参考。 一、学费 美国是以学分为标准来计算学费的。普通的公立大学,学费很便宜,一年两万美元到三万两千美元…

    2023年11月12日
  • 中国共有多少985和211大学

    时值2024高考志愿填报季,学校和专业,哪个更重要?实际上并没有统一的标准。但就分数有优势的孩子来说,一般学校优先,不必过度纠结专业。 为什么呢? 首先,著名高校所提供的资源与软环境是一般高校难以企及的,包含学习与发展机会,周围同学与老师的间接影响等等。 其次,不可否认的是,本科出身是很多企业招聘初筛的第一道门槛。本科学校无法改变,但专业上却有广泛的调整机会…

    2024年9月23日

联系我们

400-800-8888

在线咨询: QQ交谈

邮件:admin@example.com

工作时间:周一至周五,9:30-18:30,节假日休息

关注微信