|
廣東益福二手變壓器回收信息網，長期高價回收廣州變壓器回收,二手變壓器回收,廣州電力變壓器回收,廣州廢舊變壓器回收,二手電纜回收,二手空調回收,廢紙回收,打印機回收,復印機回收,溴化鋰中央空調,發電機回收,蓄電池回收,電腦回收,變壓器回收,配電柜回收,倒閉工廠回收,倒閉酒店回收等廢舊物資回收服務，聯系電話：18664666166，聯系人：張先生 
“AI確實可能殺死人類?！?/p> 這話并非危言聳聽，而是OpenAI CEO奧特曼的最新說法。 而這番看法，是奧特曼在與MIT推敲科學家Lex Fridman長達2小時的溝通中吐露。 不僅如此，奧特曼談及了近期圍著ChatGPT產生的諸多問題，坦承就連OpenAI團隊，也根本沒搞懂它是應該“進化”的: 從ChatGPT開始，AI出現了推理能力。但沒人能解讀這種能力發現的原因。 唯一的途徑是向ChatGPT提問，從它的答復中摸索它的思路。 針對馬斯克在推特上的“危險論”，他直言: 馬斯克在我心中是英雄，我支持也理解他的擔心。 即使他在推特上挺混蛋的，但祈望馬斯克能看到我們在解決AGI安全問題上貢獻了多大的努力。 除此之外，在這場對話過程中，奧特曼還提到了不少刁鉆的話題，例如: 在看過這場溝通之后，網友直呼: 兩位AI大佬用大家都能理解的方式聊AI，多來點這樣的訪談。
那么接下來，我們就來一同看下他們這場深度互動。 GPT-4內幕大揭底GPT-4是這場對話中最受關注的部分。 它是怎么訓練的?怎么在訓練模型時避免浪費算力?如何解決AI回答不同價值觀的人的問題? 首先是訓練過程，照樣是預訓練 RLHF，不過吐露了一點具體細節。 GPT-4早在去年夏天就早已訓練兌現，后面一直在進行對齊工作，讓它顯出得更符合人類需求。 相比預訓練數據集，RLHF所用的數據相當少，但效果是決定性的。 對此，奧特曼透露了一點數據來源，網羅一些開源數據集、以及協作商供應的部分數據集。 當然，數據集中也有一點Reddit論壇上涌現的迷因梗（meme），但不是很多。對此奧特曼遺憾表態: 假設再多點，它的答復恐怕會更有趣。 即便如此，團隊甚至奧特曼自己依舊無從完全解讀GPT-4。 此刻對它的解讀方式，仿照是經過不斷問它問題，通過它的回應來鑒定它的“思路”。 而就在不斷測試中，OpenAI顯出從ChatGPT開始，GPT序列呈現了推理能力。 盡管ChatGPT絕有不少時候都被當做數據庫使用，但它確實也展現了一定的推理能力，至于這種能力具體應該涌現的，當今卻無人能答復。 但大模型的訓練往往意味著大批算力需求。對此奧特曼再次提到了OpenAI出格的訓練推斷方法: 即便模型很大，團隊現在也有辦法只通過部分訓練，推斷整個模型的性能，就像是推測一名1歲的嬰兒能否經過SAT考試相同。 關于這一點，在GPT-4論文和官方博客中也有更詳細介紹。
最終奧特曼承認，GPT-4確實存在應對不同價值觀的人的問題。 姑且解決辦法就是把更改系統報道（system message）的權限開放給用戶，也就是ChatGPT中經常見到的那段“我只是一個語言模型……”。 通過改變系統新聞，GPT-4會更容易扮演其中章程的角色，比在互動中提出要求的重視程度更高，如規定GPT-4像蘇格拉底一樣說話，可能只用JSON格式回應問題。
所以，對于GPT種類來說，誰最恐怕載入人工智能史冊?奧特曼倒不認為是GPT-4: 從可用性和RLHF來看，ChatGPT無疑是最具里程碑的那一個，背后的模型沒有產品的實用性關鍵。 最會打太極的CEOGPT-4論文中沒有吐露參數規模、訓練數據集大小等更多細節，還被外界吐槽越來越不Open了。 在此次訪談中，面對主持人步步追問，奧特曼如故守口如瓶。 GPT-4預訓練數據集有多大?奧特曼只是很籠統的介紹了有公開數據集、有來自合作伙伴的內容（如GitHub供應的代碼）還有來自網絡的內容。 活像ChatGPT也能寫出來的那種賽博八股文，只有在談到Reddit的時候吐露了網絡梗圖在訓練數據中占比不大，“不然ChatGPT大概更有趣一些”。 GPT-4模型參數量有多大?奧特曼只是說之前瘋傳的100萬億參數是謠言，然后又糊弄昔日了。 我認為人們被參數競賽所吸引，就像從前被CPU的主頻競賽所吸引肖似。當前人們不再關心手機處理器有多少赫茲了，關心的是這東西能為你做什么。 然則奧特曼對于一種觀點是占有必然態度——“GPT-4是人類迄今所實現的最復雜的軟件”。 但在主持人Lex突然拋出一些時下針對GPT-4的尖銳看法時，奧特曼的應對也堪稱“AI般淡定”（狗頭）。 例如，關于前段時間鬧得沸沸揚揚的GPT-4越獄問題。 一名斯坦福教授僅僅用30分鐘，就誘導GPT-4制定出了越獄打算，并全部表現了出來。 對此奧特曼表態，就如同當年iPhone也面臨被“黑”大概說越獄的問題（如當年免費的越獄版App Store）同樣，這并非不能解決的事情。 奧特曼甚至坦承，他當年就把自身的第一臺蘋果手機越獄了——甚至當時覺得這是個很酷的事情。 但目下早已沒有多少人去干蘋果越獄的事情了，因為不越獄也足夠好用了。 奧特曼表態，OpenAI的應對思路相像如此，即把功能做的足夠強，他甚至表態，愿意在這方面給用戶開更多權限，以便了解他們到底想方設法什么。 除此之外，Lex還提到了馬斯克對于奧特曼的指謫。 奧特曼雖說是當年被馬斯克一手提拔的人才，但今朝馬斯克不僅退出了他們聯手創辦的OpenAI，還對OpenAI現狀十分不滿，經常在推特上陰陽怪氣這家企業。 我捐1億美金成立的非營利組織怎么就變成一個300億市值的營利性企業了呢?倘或這是合法的，為什么其他人不這樣做?
視為OpenAI現任CEO，奧特曼并未直行回應此事，而是調侃了一下馬斯克在航天領域也經常被“老前輩”們斥責的事情。 這一種類信息問答，不禁讓人想到在ChatGPT發布后，奧特曼對于記者“將ChatGPT整合進微軟必應和Office”問題的回應方式: 你知道我無法對此發布評論。我知道你知道我不可對此發表評論。你知道我知道你知道我無從對此公布評論。 既然如此，為什么你還要問它呢? GPT的“偏見”不會消失GPT在迭代工序中“偏見”必定存在，它無法能如舊完全中立。 在主持人提到關于ChatGPT以及GPT-4種存在的偏見問題時，奧特曼這樣回應道。 ChatGPT在推出之初，就不是一個成熟的產品，它需要不斷迭代，而在迭代的過程中，僅僅仰賴內部的力量是不能達成的。 “早就”推出ChatGPT技術，是要借助外部全國的集體智慧和能力，同時也能讓全天下參與進“塑造AI”的工序中。 而不同人對于問題的說法也各不相通，所以在這個流程中，“偏見”問題就不能避免。 甚至奧特曼在話里話外也吐露著:在GPT中，“偏見”永遠不會消失。 他將外部參與建設GPT比作“公開領域建設的權衡”。 GPT生成答案是個性化控制的結果，迭代的過程則是更精確地控制“個性化”的流程。 有趣的是，期間奧特曼還暗戳戳“背刺”起了馬斯克的推特: 推特摧毀掉的多元性，我們目前將其找回來。 （嗯，奧特曼是懂一些話術的） 當然，談到ChatGPT，總繞不開其背后的公司OpenAI，在成立之初，它就立下了兩個Flag:
正在，早已往時八年之久，這兩個Flag也是發生了巨大的變化:AGI的大旗還在高舉，而非營利性這面旗則早已搖搖欲墜。 對此，奧特曼也是分手作出了回答。 對于OpenAI“非營利性質”的逐漸削弱，奧特曼直言:很久之前，就早已意識到非營利性不是長久之計。 僅僅依靠非營利籌集到的資金對OpenAI的研討來說遠遠不夠，商業化是確定選擇。 但在往后奧特曼也試圖“找補”回一些，稱目下的商業化的程度僅止于滿足投資者與員工的固定回報，剩余資金如故會流向非營利性組織。 提到AGI，一開始在OpenAI聲稱要做通用人工智能時，還有一堆人在嘲諷，現在做出GPT-4這樣的產品，回過頭來再看，嘲諷的聲音已經越來越少了。 而面對外界詢問“GPT-4是AGI嗎”這樣的問題時，奧特曼則是直接給出了自己理解中的AGI: AGI所駕馭的知識怎么是要超過人類科學知識總和的，并且具有創造性，大概推動基礎科學的發展; 而目前所有GPT并無法做到這些，想方設法達到AGI還需要在此刻GPT的范式上進行拓展，至于應該拓展，正是當前所缺乏的。 值得一提的是，談到AGI時，是奧特曼在訪談中鮮有的“兩眼放光”的時刻。 他拋出了一句極具“科研分子理想情懷”的金句: 大概AGI是永遠抵達不了的烏托邦，但這個流程會讓人類越來越強大。 但奧特曼并不不承認過分強大的AGI“或者殺死人類”這一說法: 我必須承認，（AI殺死人類）有一定能夠性。 很多關于AI安全和挑戰的猜測被聲明是錯誤的，我們必須正視這一點，并盡早嘗試找到解決問題的方法。 One More Thing在談話最終，Lex Fridman還試圖讓奧特曼講一些給年輕人們的建議，奧特曼干脆來了個“反雞湯文學”: 網絡上的“成功學”帖子太誘人，建議不要聽太多建議。 我就是無視建議做到如今這樣的。 模仿鏈接: https://www.youtube.com/watch?v=L_Guz73e6fw （舉報） (責任編輯：admin) |
