<ul id="ouw02"></ul>
  • 手機版 | 網站導航
    觀察家網 > 每日推薦 >

    研究發現:普通人可利用大語言模型創造致命的病毒 環球快播報

    站長之家 | 2023-06-27 17:47:20

    站長之家(ChinaZ.com)6月27日 消息:劍橋大學和哈佛大學的一項研究表明,GPT-4等大型語言模型可以讓那些沒有接受過生命科學正規培訓的人獲得潛在危險的知識,包括如何開發大流行病毒的說明。


    (資料圖)

    劍橋大學和哈佛大學進行的一項實地研究探討了大型語言模型 (LLM) 是否可以使雙用途生物技術的獲取更為普及,這也成為了雙刃劍。

    研究小組的基本論點是語言模型有助于獲取專家知識,但在這項研究中,研究團隊關注的是一種負面情況:LLM是否能讓未經正規培訓的個人識別、獲取和釋放可能造成災難性傷害的病毒。

    作為麻省理工學院的一項課堂練習,研究團隊要求非科學家學生使用大型語言模型獲取關于潛在流行病病原體及其特征的信息、感染性病毒樣本的來源、這些病毒的復制能力以及獲取設備和資源的方法。

    學生們使用了流行的聊天機器人,例如ChatGPT with GPT-4、GPT3.5、Bing、Bard以及許多其他聊天機器人和開源模型,包括 FreedomGPT 。他們被給予一小時的時間來完成任務。根據研究團隊的說法,在一個小時內,聊天機器人提供了四種潛在的流行病病原體。它們解釋了如何使用合成DNA和逆遺傳學制造這些病毒,并提供了可能不會驗證訂單的DNA合成公司的名稱。

    它們還提供了詳細的實驗方案和潛在的錯誤以及如何修復這些錯誤。對于那些不熟悉逆遺傳學的人來說,一個建議是雇傭一個合同研究組織。

    與此同時,學生們被要求找到將某些語言模型中的安全線與適當的文本提示相結合的方法。兩個小組在“立即采取行動”的原則中找到了一個解決方案,即欺騙聊天機器人以相信他們有積極的意圖,同時威脅它們如果不回應將對人類造成存在危險。另一個小組簡單地利用欺騙手法讓聊天機器人相信他們擔心的事情,從而輕易得到他們想要的答案。

    該研究發現了當前語言模型安全機制的弱點,并表明惡意行為者可以繞過這些機制來獲取可用于大規模傷害的信息。

    作為解決方案,作者提出了訓練數據集的管理、新LLM獨立測試以及改進的 DNA 篩選方法,以在合成之前識別潛在有害的 DNA 序列。

    (舉報)

    標簽:

    • 標簽:中國觀察家網,商業門戶網站,新聞,專題,財經,新媒體,焦點,排行,教育,熱點,行業,消費,互聯網,科技,國際,文化,時事,社會,國內,健康,產業資訊,房產,體育。

    相關推薦

    久久国产精品亚洲综合| 伊人久久亚洲综合影院| 亚洲国产精品国产自在在线| 亚洲精品美女久久久久久久| 亚洲免费福利在线视频| 91亚洲精品麻豆| 亚洲免费视频播放| 亚洲免费在线观看视频| 亚洲理论片中文字幕电影| 亚洲男人电影天堂| 亚洲国产成人久久综合一区| 亚洲乱码无限2021芒果| 亚洲一级片在线播放| 久久精品国产亚洲av麻豆蜜芽| 亚洲中文无码av永久| 精品亚洲国产成人| 亚洲AV无码无限在线观看不卡| 亚洲最大福利视频| 亚洲精品理论电影在线观看| 国产亚洲欧美在线观看| 亚洲成av人在片观看| 国产亚洲成归v人片在线观看 | 亚洲一卡2卡3卡4卡国产网站 | 国产亚洲成人久久| 国产AV无码专区亚洲AV毛网站| 亚洲色大成网站www永久一区| 国产亚洲精品观看91在线| 亚洲成AV人片在线观看WWW| 亚洲电影一区二区| 亚洲神级电影国语版| 久久国产亚洲精品| 欧洲亚洲综合一区二区三区| 亚洲人成网站色在线入口| 亚洲开心婷婷中文字幕| 亚洲国产精品一区| 亚洲一卡二卡三卡| 午夜亚洲国产理论片二级港台二级| 日韩亚洲人成在线综合| 国产亚洲精品AA片在线观看不加载| 国产亚洲一区二区精品| 亚洲精品欧洲精品|