首页 > 资讯 > > 正文

研究发现：普通人可利用大语言模型创造致命的病毒|世界今头条

2023-06-27 18:55:00 来源：站长之家

(资料图片)

编程客栈（）6月27日消息:剑桥大学和哈php佛大学的一项研究表明，GPT-4等大型语言模型可以让那些没有接受过生命科学正规培训的人获得潜在危险的知识，包括如何开发大流行病毒的说明。

剑桥大学和哈佛大学进行的一项实地研究探讨了大型语言模型（LLM）是否可以使双用途生物技术的获取更为普及，这也成为了双刃剑。

研究小组的基本论点是语言模型有助于获取专家知识，但在这项研究中，研究团队关注的是一种负面情况:LLM是否能让未经正规培训的个人识别、获取和释放可能造成灾难性伤害的病毒。

作为麻省理工学院的一项课堂练习，研究团队要求非科学家学生使用大型语言模型获取关于潜在流行病病原体及其特征的信息、感染性病毒样本的来源、这些病毒的复制能力以及获取设备和资源的方法。

学生们使用了流行的聊天机器人，例如ChatGPT with GPT-4、GPT3.5、Bing、Bard以及许多其他聊天机器人和开源模型，包括 FreedomGPT 。他们被给予一小时的时间来完成任务。根据研究团队的说法，在一个小时内，聊天机器人提供了四种潜在的流行病病原体。它们解释了如何使用合成DNA和逆遗传学制造这些病毒，并提供了可能不会验证订单的DNA合成公司的名称。

它们还提编程供了详细的实验方案和潜在的错误以及如何修复这些错误。对于那些不熟悉逆遗传学的人来说，一个建议是雇佣一个合同研究组织。

与此同时，学生们被要求找到将某些语言模型中的安全线与适当的文本提示相结合的方法。两个小组在“立即采取行动”的原则中找到了一个解决方案，即欺骗聊天机器人以相信他们有积极的意图，同时威胁它们如果不回应将对人类造成存在危险。另一个小组简单地利用欺骗手法让聊天机器人相信他们担心的事情，从而轻易得到他们想要的答案。javascript

该研究发现了当前语言模型安全机制的弱点，并表明恶意行为者可以绕过这些机制来获取可用于大规模伤害的信息。

作为解决方案，作者提出了训练数据集的管理、新LLM独立测试以及改进的 DNA 筛选方法，以在合成之前识别潜在有害的 DNA 序列。

标签：

上一篇：6月28号，来富川参加首届“冰淇梨”采摘节

下一篇：最后一页

热点聚焦

研究发现：普通人可利用大语言模型创造致命的病毒|世界今头条

编程客栈（）6月27日消息:剑桥大学和哈php佛大学的一项研究表明，GPT-4

2023-06-27 18:55:00

6月28号，来富川参加首届“冰淇梨”采摘节

夏至将至可以享受西瓜、WiFi、啤酒配小龙虾在咱富川本土上还有一特色时

2023-06-27 18:13:22

中铁上海局合肥启迪大街项目开展基坑坍塌应急救援演练世界速讯

6月26日，合肥市经开区建筑施工领域“安全生产月”基坑坍塌应急救援演

2023-06-27 18:03:46

今年618智能手机销量1340万部苹果份额高达42%

一年一度的618年中大促已经正式落下帷幕，你买到自己心仪的产品了吗？

2023-06-27 17:11:17

全球速讯：cad放大比例命令_cad的20个基本命令

1、1、CAD由许多命令组成，命令的执行方式多种多样，基本上有两种：2、

2023-06-27 16:45:50

每日观察!男士领带怎么选_你会选吗

1、如果是为了工作，可以是素色的领带，比如蓝色调和黑色调，不会太招

2023-06-27 16:02:10

聊城市公安局东昌府分局组织警校实习学生参观孔繁森同志纪念馆

大众网记者李新民聊城报道6月21日，聊城市公安局东昌府分局组织山东警

2023-06-27 15:41:32

抖音：打击发布考上清华/北大等蹭高考热点同质化文案内容|全球快播报

抖音发布打击同质化不良信息公告称，近日，平台在日常巡查中发现，有极

2023-06-27 14:56:15

《崩坏：星穹铁道》驭空角色前瞻狐狸姐姐来了

近日《崩坏：星穹铁道》官方公布了“驭空”角色前瞻，驭空是新的4星虚

2023-06-27 14:53:55

步履维艰故事_步履维艰

1、举步维艰：比喻办事情每向前进行一步都十分不容易。2、举步艰难：形

2023-06-27 13:55:54

同飞股份6月27日盘中涨幅达5%

以下是同飞股份在北京时间6月27日13:49分盘口异动快照：6月27日，同飞

2023-06-27 13:47:40

6月底前“三类人员”全面实现证照电子化

晨报讯（半岛晨报、39度视频记者岳宇艳）为进一步方便企业办事，提高服

2023-06-27 13:06:08

当前速讯：涉及杭州萧山多个地方！29日8时起，这些地方计划停水！

6月27日，记者从“萧山供水”微信号了解到，为配合通城大道高架施工建

2023-06-27 12:22:39

全球今日报丨午评：跌麻了，主力就回来了！A股如期反弹，反弹的压力点在哪？接下来如何应对？

午评：跌麻了，主力就回来了！A股如期反弹，反弹的压力点在哪？接下来

2023-06-27 12:01:56

好声音12年首次在一季节目中起用全新导师

晨报讯（半岛晨报、39度视频记者李洪波）2023《中国好声音》节目的四位

2023-06-27 11:27:17

达沃斯如何重启增长之路

6月27日至29日，世界经济论坛第十四届新领军者年会（又称夏季达沃斯论

2023-06-27 10:53:14

【全球播资讯】联合国救援机构：非洲之角约6000万人急需人道主义援助

联合国人道主义救援机构6月26日称，气候变化、武装冲突、高额粮价和经

2023-06-27 10:51:06

世界简讯:鹿山新材：6月26日融券卖出3.7万股，融资融券余额1.24亿元

6月26日，鹿山新材（603051）融资买入591 93万元，融资偿还682 48万元

2023-06-27 10:07:16

龙岩不开刀治痔疮龙岩博仕肛肠医院

目前治疗痔疮的非手术方法较多，主要包括以下几种：1 药物治疗：适用于

2023-06-27 09:46:15

全球速递！2022年中国电生理医疗器械行业重点企业分析：惠泰医疗VS伟思医疗[图]

心脏电生理学干预技术可以帮助医生了解心电传导系统的电生理特征，阐明

2023-06-27 09:34:20

世界观天下！深圳市时代创想文化传播有限公司

1、深圳市时代创想文化传播有限公司是一家集传媒和网络营销服务为一体

2023-06-27 09:06:46

无可替代by仟丞玥（无可替代）

来为大家解答以下的问题，可替代by仟丞玥，无可替代这个很多人还不知道

2023-06-27 08:40:10

卖火柴的小女孩作者为什么把时间安排在大年夜|全球新要闻

1、卖火柴的小女孩的作者是丹麦的。2、《卖火柴的小女孩》是丹麦童话故

2023-06-27 08:07:59

四川泸州长江六桥合龙计划年底通车_全球快播

6月26日凌晨，随着最后一段钢箱梁的锁定与体系转换，目前在建最大跨度

2023-06-27 07:39:21

丢脸！台外事机构又爆性骚扰，民进党当局被批刻意隐瞒每日热文

来源：环球时报【环球时报特约记者陈立非】台湾性骚扰这把火已经烧到岛

2023-06-27 06:32:47

齐心协力保障电力供应_天天通讯

月老和孟婆的爱情（月老和孟婆曾是情人）

东方绿洲游玩东方绿洲有什么好玩的|世界新资讯

吃东西嘴苦是什么原因怎么治疗（吃东西嘴苦是什么原因）

想象和联想的区别和联系（想象和联想的区别）

pixplant无缝贴图制作软件中文版，生成无缝贴图超简单,真的有手就行!

抚州追尾车祸认定原则

长春消防运动会：比拼“速度与技术”

世界新资讯：守护平安家园，沙头街道禁毒宣传进社区

什么是软水盐（什么是软水）

沈阳高校毕业生首次购房补贴审批要多久？

新的设计原理可以防止脑分流中的导管故障

盘州市：压实“两个责任” 保障“舌尖上”的安全

2023江西南昌市东湖区融媒体中心招聘记者1人公告

最高法典型案例：戒毒医院医生向吸贩毒人员贩卖精神药品牟利|全球短讯

马克龙：我始终是马赛的忠实支持者联赛第三是不错的成绩

公司怎么给员工办理公积金？住房公积金开户办理流程

今年全国快递业务量已达600亿件

《最终幻想16》女主动捕演员公布与FF7R蒂法同一人

写点生活｜端午：赶席·赏荷·听雨最新消息

禹州市城乡规划发展中心：“零距离”服务助推项目建设当前热闻

办房产证第二套房子交多少税_第二套房子交多少税

天天百事通！梅西计划退出阿根廷队一年

极氪001 再立新功经过大事故才知极氪对安全的定义|环球今头条

每日热门：美国多地超市收到炸弹威胁：不给钱或礼品卡，就引爆炸弹

x 广告

电视

台属为防疫工作者送去卤肉饭：希望美食能缓解疲惫

台属为防疫工作者送去卤肉饭：希望美食能缓解疲惫

报告：超3成白领全年读书不足1本

报告：超3成白领全年读书不足1本

浙江金华：战疫求助平台令疫情防控显“温度”

浙江金华：战疫求助平台令疫情防控显“温度”

浙江一高校现考研“学霸寝室” 全员上岸985院校

浙江一高校现考研“学霸寝室” 全员上岸985院校

沙尘追踪：目前沙尘已抵达华北北京高空区域开始泛黄

沙尘追踪：目前沙尘已抵达华北北京高空区域开始泛黄

冰箱

汇聚公益力量 2022年“乡村振兴·重庆专场”公益活动开幕

中新网重庆4月21日电 (记者钟旖)2022年“乡村振兴·重庆专场”公益活动开幕暨宣传周启动仪式21日在重...

外国人在上海：奔跑的“洋大白”

“我是一个健康的外国人生活在这个美丽的社区我所有的测试都是阴性我会说一点中文请让我把沉重的货物送...

海南陵水新增3例新冠肺炎确诊病例

中新网海南陵水4月21日电 (记者王晓斌)海南省陵水黎族自治县新型冠状病毒肺炎疫情防控工作指挥部21日...

加快实现社会面清零目标上海崇明继续做好“三区”分级管理

光明网讯(记者赵艳艳)在今日(4月21日)举行的上海市新冠肺炎疫情防控工作第160场新闻发布会上，上海市...

上海金山朱泾镇：居民有序出门购物，商超使用场所码

“我们家是镇里第一批发的通行证，我们家人还是响应号召，非必要不出门。”几天前，上海市金山区朱泾镇...

空调

x 广告

精彩推送

Copyright @ 2015-2022 东亚家电网版权所有备案号：琼ICP备2022009675号-13 联系邮箱：435 227 67 @qq.com