德蒙福特大学网络安全

来源:环球时报

英国《新科学家》周刊网站8月7日文章,原题:人工智能聊天机器人能否受到“说真话”法律义务的约束人们能要求人工智能讲真话吗?或许不能,但一个伦理学家团队表示,从法律上来说,人工智能开发商应该承担减少犯错风险的责任。“我们只是在尝试创建一种激励构架,让公司在创建(大语言模型)系统时更重视真实性或准确性,”牛津大学伦理学家布伦特·米特尔施塔特说。

基于对大量文本的统计分析,大语言模型聊天机器人,例如ChatGPT能对用户提出的问题生成类似人类的回答。然而,尽管它们的答案通常看起来令人信服,但也容易出错,这是一种被称为“幻觉”的缺陷。米特尔施塔特说:“我们拥有这些极其令人印象深刻的生成式人工智能系统,但它们也会频繁出错,从我们对这种系统基本机能的了解来看,没有根本的解决方法。”

米特尔施塔特表示,对大语言模型系统来说,这是一个重大问题,因为它们正在被应用于政府决策,在这种情况下,它们诚实地承认自己的知识局限性就变得至关重要。为解决这个问题,他们提出一系列应对措施:当被问及与事实有关的问题时,人工智能应该像人一样。这意味着它们要诚实,秉持“知之为知之,不知为不知,是知也”的态度。“要点在于采取必要步骤,让它们真正做到谨言慎行,”米特尔施塔特说,“如果对某件事不确定,它们不要只是为了让人们信服而编造一些东西。相反,它们应该说,‘嘿,你知道吗?我不知道。让我来研究一下。我会回复你的。’”

这似乎是一个值得称赞的目标,但在英国德蒙福特大学网络安全教授伊尔克·鲍伊腾看来,伦理学家提出的这些要求在技术上未必可行。开发商正尝试让人工智能实事求是,但到目前为止,事实证明这是一项极其“劳动密集型”的任务,甚至不切实际。“我不明白,他们怎么期望法律要求强制执行这种命令,我认为这在技术上根本行不通,”鲍伊腾说。

为此,米特尔施塔特及其同事们提出一些更直接的措施,可能使人工智能更“诚实”。他说,这些模型应该列出答案的信息源,目前许多模型都在这样做以证明它们给出答案的可信度,此外,更广泛地使用一种被称为“检索增强”的技术来给出答案,也可能限制这些模型产生“幻觉”的可能性。他还认为,应该缩减在政府决策等高风险领域部署人工智能的规模,或者应该限制模型可利用的信息源。“如果我们有一个仅在医学中使用的语言模型,我们就应该限制它,让它只能在高质量医学期刊上搜索学术文章。”

米特尔施塔特声称,改变观念也很重要,“如果我们能摆脱所谓(大语言模型)善于回答事实性问题、或者它们至少会给你一个可靠答案的想法,而是认为它们有助于为你提供更多相关的信息,那就太好了。”

但荷兰乌得勒支大学法学院副教授卡塔琳娜·戈安塔表示,这些研究人员过于关注技术,因此对公共话语中长期存在的谎言问题关注不够。“在这种背景下,仅将矛头指向大语言模型会制造一种假象,即人类非常勤奋细致,永远不会犯此类错误。问问你遇到的任何法官,他们都遇到过律师玩忽职守的可怕经历,反之亦然——这并非一个机器的问题。”(作者克里斯·斯托克尔-沃克,王会聪译)

声明:壹贝网所有作品(图文、音视频)均由用户自行上传分享,仅供网友学习交流,版权归原作者wangteng@admin所有,原文出处。若您的权利被侵害,请联系 756005163@qq.com 删除。

本文链接:https://www.ebaa.cn/45451.html

(0)
上一篇 2025年6月4日
下一篇 2025年6月4日

相关推荐

  • 美国贫困线(美国贫困线标准2023)

    1881年,在发表了《安娜·卡列尼娜》和《战争与和平》之后,俄国大作家托尔斯泰从乡下搬到了帝国的首都莫斯科。这时候他已经有足够的经济实力过上舒适的生活。 但托尔斯泰在莫斯科注意到的第一件事并不是繁荣,而是这个城市庞大的穷人群体。他后来写道:“我很熟悉乡村的贫穷, 但城市的贫穷让我吃惊,也无法理解。”凭着作家的敏感和同理心,他动手了解城市贫民阶层并且试图帮助他…

    2023年11月28日
  • 朱拉隆功大学地理位置

    朱拉隆功大学难考吗 略显陈旧的建筑,彰显着朱拉隆功大学悠久的历史和文化的沉淀,多个开放的体育场馆、游泳池为学生锻炼身体提供了便利,朱拉隆功大学难考吗?您来泰国一定要来朱拉隆功大学逛逛,欣赏这里悠久历史的古典建筑,感受泰国大学特有的文化气质,舒适的园林环境。泰国大学的留学生入学,普遍需要雅思成绩5.0。而朱拉隆功大学作为国立第一,对这方面的要求更高,普通专业需…

    2025年6月23日
  • 大学出国留学申请费

    还有不到一个月时间就要高考了,对于准备去海外读本科的高二or高三准留学生和家长们,到了准备的时间啦!千万别错过这个时间点! 今天Vicky就给大家介绍9个热门的国家/地区!包含总留学费用、优势、学制、学费和生活费用,五个模块,出国留学的家庭必备,收藏这篇就够了!先码起来啦~ 01 美国 总花费/年 纽约:65-90w、波士顿:65w+ ✅优势 被誉为“全世界…

    2024年8月29日
  • 中国留学生服务中心(中国留学生服务中心官网)

    留学生落户上海必备的11个官方APP和网站!掌握这些工具,落户上海轻松搞定! 11个官方APP和网站,想落户上海的同学必须要知道! ·1.随申办APP。查询社保、审核进度和出入境记录,还可以自主填报实有人口信息。 ·2.上海人社APP。查询社保、审核进度。 ·3.个人所得税APP。查询个人所得税信息。 ·4.教育部留学服务中心。在网上服务大厅办理学历认证,电…

    2023年11月6日
  • 港大硕士学费_港大硕士学费一年多少啊

    刚好学姐最近整理了港大的硕士学费,赶紧给大家放出来作为参考啦~ 总的来说,港大硕士学费是港前三中最贵的: 牙医学院一年制硕士学费二三十万人民币,三年制硕士学费全部都要上百万人民币;其次是商学院,硕士学费基本在30-40万人民币,其中金融和MBA都在40万以上;再其次建筑学院,大部分硕士学费要20万左右人民币,个别课程在30万左右人民币;其他像文学院、教育学院…

    2024年4月16日
  • 美国波莫纳学院好吗

    这所学校的第一堂课,是从一间租聘的房屋内开始。然后这所学校一步一个脚印,不断提高自己的学术水平,如今成为了美国TOP 4的文理学院! 今天,让我们一起走进这所凭自己本事一路高歌走到TOP 4的美国学院——波莫纳学院! 大学介绍 波莫纳学院(Pomona College),创建于1887年,位于美国加利福尼亚州的克莱蒙特市,是一所的文理学院,学院只提供本科教育…

    1天前
  • 密苏里大学学费_密苏里大学学费一年多少

    你知道吗?对于某些美国公立大学来说,只要满足一定的条件,比如GPA和标化成绩达标,就能保证被录取!虽然像加州大学系统这样的顶级公立大学不提供这样的录取政策,但有不少其他公立大学是提供“保录取”的,具体的叫法不一定相同,不过Assured / Automatic / Guaranteed Admission 说的都是这种录取方式,且通常也适用于非居民。接下来,…

    2024年4月17日
  • 西雅图有什么大学排名

    前言:这是一篇来自公众号达恩留学的文章,旨在通过数据分析,帮助大家了解华盛顿大学西雅图分校的实力,一起来看看吧。 The University of Washington at Seattle(华盛顿大学西雅图分校)拥有卓越的师资力量和丰富的学术资源,众多专业呈现欣欣向荣的景象。其学术声誉极高,毕业生就业前景良好,在多个领域为世界发展做出贡献。 那么,这所大…

    2024年11月5日
  • 卡尔加里大学邮编

    加拿大亚马逊FBA所在仓库邮编地址具体是多少,小编汇集了13个加拿大FBA仓库地址供大家参考。 一、Alberta Calgary(艾伯塔省卡尔加里) 卡尔加里(Calgary)又称卡城、卡加利、牛仔城,位于加拿大艾伯塔省南部的落基山脉,是加拿大第四大城市,也是世界上最富裕、安全、幸福和拥有最高生活水准的城市之一。 卡尔加里有2个FBA仓库地址: 1、代码:…

    2025年4月2日
  • 办理移民希腊(办理移民希腊的中介)

    希腊移民局向全球发布了最新的移民政策,这一政策允许非欧盟国家居民通过希腊的黄金签证计划获得希腊的永久居留权。这个签证计划自推出以来就受到了广泛的关注,下面我们来详细解析如何能够成功移民到希腊,并需要准备哪些资料? 如何能移民希腊,需要准备哪些资料? 希腊黄金签证计划 希腊黄金签证计划为非欧盟国家居民提供了一个机会,只需满足以下条件即可获得希腊的永久居留权: …

    2023年11月14日

联系我们

400-800-8888

在线咨询: QQ交谈

邮件:admin@example.com

工作时间:周一至周五,9:30-18:30,节假日休息

关注微信