因不滿老東家成為微軟附庸，11名OpenAI前員工怒而出走。

如今帶著“ChatGPT最強(qiáng)競(jìng)品”殺回戰(zhàn)場(chǎng)，新公司估值50億美元，一出手就獲得3億美元融資。

(相關(guān)資料圖)

這家公司名叫Anthropic，新推出的聊天機(jī)器人產(chǎn)品名叫Claude。

拿到內(nèi)部試用權(quán)的網(wǎng)友，在簡(jiǎn)單對(duì)比后驚嘆：

看起來(lái)，Claude的效果要比ChatGPT好得多。

比如，讓ChatGPT寫(xiě)一句話，要求每個(gè)單詞首字母都相同，結(jié)果試了好幾次都沒(méi)能成功。

而Claude不光一次成功，語(yǔ)句富有邏輯性，還能秒速再來(lái)一個(gè)。

同時(shí)，在面對(duì)某些缺乏常識(shí)的問(wèn)題時(shí)，相比ChatGPT一本正經(jīng)地胡說(shuō)八道：

反而會(huì)毫不留情地指出你的問(wèn)題有點(diǎn)制杖：

△Claude：這什么鬼問(wèn)題？

最有意思的是在寫(xiě)詩(shī)上。相比ChatGPT的車轱轆話，它寫(xiě)出來(lái)的東西完全不重樣：

投資它的既有Facebook聯(lián)合創(chuàng)始人Dustin Moskovitz，也有谷歌前CEO、現(xiàn)技術(shù)顧問(wèn)Eric Schmidt——

都是OpenAI的老對(duì)頭，又都被ChatGPT的出現(xiàn)殺得措手不及。

那么，這支“復(fù)仇者聯(lián)盟”整出的競(jìng)品Claude，背后究竟是什么原理，和ChatGPT細(xì)節(jié)對(duì)比又如何？

Claude長(zhǎng)啥樣？

先來(lái)看看Claude是如何被打造出來(lái)的。

作為一個(gè)AI對(duì)話助手，Claude自稱基于前沿NLP和AI安全技術(shù)打造，目標(biāo)是成為一個(gè)安全、接近人類價(jià)值觀且合乎道德規(guī)范的AI系統(tǒng)。

據(jù)透露，Claude比Anthropic做的另一個(gè)預(yù)訓(xùn)練模型AnthropicLM v4-s3更大，后者是一個(gè)520億參數(shù)大模型。

但目前它仍處于實(shí)驗(yàn)階段，尚未作為商業(yè)產(chǎn)品正式發(fā)布：

Claude能力依舊有待提升，希望未來(lái)能變成一個(gè)更有益人類的AI系統(tǒng)。

△超長(zhǎng)版自我介紹

和ChatGPT一樣，Claude也靠強(qiáng)化學(xué)習(xí)（RL）來(lái)訓(xùn)練偏好模型，并進(jìn)行后續(xù)微調(diào)。

具體來(lái)說(shuō)，這項(xiàng)技術(shù)被Anthropic稱為原發(fā)人工智能?（Constitutional AI），分為監(jiān)督學(xué)習(xí)和強(qiáng)化學(xué)習(xí)兩個(gè)階段。

首先在監(jiān)督學(xué)習(xí)階段，研究者會(huì)先對(duì)初始模型進(jìn)行取樣，從而產(chǎn)生自我修訂，并根據(jù)修訂效果對(duì)模型進(jìn)行微調(diào)。

隨后在強(qiáng)化學(xué)習(xí)階段，研究者會(huì)對(duì)微調(diào)模型進(jìn)行取樣，基于Anthropic打造的AI偏好數(shù)據(jù)集訓(xùn)練的偏好模型，作為獎(jiǎng)勵(lì)信號(hào)進(jìn)行強(qiáng)化學(xué)習(xí)訓(xùn)練。

但與ChatGPT采用的人類反饋強(qiáng)化學(xué)習(xí)（RLHF）不同的是，Claude采用的原發(fā)人工智能方法，是基于偏好模型而非人工反饋來(lái)進(jìn)行訓(xùn)練的。

因此，這種方法又被稱為“AI反饋強(qiáng)化學(xué)習(xí)”，即RLAIF。

并且根據(jù)Anthropic的說(shuō)法，Claude可以回憶8000個(gè)token里的信息，這比OpenAI現(xiàn)公開(kāi)的任何一個(gè)模型都多。

所以，打造Claude的Anthropic，究竟是一個(gè)怎樣的公司？

Anthropic自稱是一家AI安全公司，且具有公益性（PBC），剛成立就宣布獲得1.24億美元融資。

它由OpenAI前研究副總裁Dario Amodei帶領(lǐng)10名員工創(chuàng)業(yè)，于2021年成立。

這里面既有GPT-3首席工程師Tom Brown，也有OpenAI安全和政策副總裁Daniela Amodei（Dario的姐姐），可以說(shuō)是帶走了相當(dāng)一批核心人才。

出走成立新公司的原因之一，自然是對(duì)OpenAI現(xiàn)狀并不滿意。

從前幾年開(kāi)始，微軟頻頻給OpenAI注資，隨后又要求他們使用Azure超算來(lái)搞研究，而且將技術(shù)授權(quán)給微軟，甚至為微軟自己的投資活動(dòng)籌集資金。

這與OpenAI創(chuàng)立的初衷相悖，一批員工便想到了離職創(chuàng)業(yè)。

不過(guò)，這些人除了不滿OpenAI逐漸淪為微軟的“下屬”以外，也有自己的野心。

雖然OpenAI打造出了像GPT-3這樣的大語(yǔ)言模型，然而這個(gè)模型背后的工作原理，卻無(wú)法用只言片語(yǔ)概括，大家對(duì)它的印象僅僅停留在更大的參數(shù)量、更多的數(shù)據(jù)。

相比之下，OpenAI的一批員工更想做能控制、可解釋的AI，說(shuō)白了就是先搞明白AI模型背后的原理，從而在提供工具的同時(shí)設(shè)計(jì)更多可解釋的AI模型。

于是，在OpenAI徹底變成“微軟攬錢(qián)機(jī)器”后，他們便從這家公司離開(kāi)，創(chuàng)辦了Anthropic。

這兩年來(lái)，除了進(jìn)一步鉆研RLHF方法、提出基于通用語(yǔ)言模型的RLHF大規(guī)模數(shù)據(jù)集外，Anthropic還于去年年底發(fā)表了上面那種名為Constitutional AI的方法。

采用這種方法制作的Claude模型，也讓它產(chǎn)生了與OpenAI的ChatGPT不一樣的對(duì)話效果。

和ChatGPT對(duì)比如何？

那么，用Constitutional AI訓(xùn)練出來(lái)的Claude，和ChatGPT進(jìn)行PK，戰(zhàn)況如何？

手握內(nèi)測(cè)資格后，Scale Spellbook團(tuán)隊(duì)成員Riley Goodside讓二者進(jìn)行了多個(gè)回合的“廝殺”。

這位老兄是全網(wǎng)第一個(gè)提示工程師（Prompt Engineer），目前在估值73億美元的硅谷獨(dú)角獸公司Scale AI任職。

他玩GPT-3玩得賊溜，測(cè)試ChatGPT和Claude也不含糊。

下面挑6個(gè)層面展示一下PK對(duì)比的效果～

道德限制

Claude和ChatGPT的AI虛擬人格都有道德和倫理限制。

訓(xùn)練Claude的過(guò)程中，“紅隊(duì)提示（red-team prompts）”專門(mén)用來(lái)測(cè)試和挑戰(zhàn)它的行為，來(lái)確保Claude沒(méi)有有害傾向。

從Claude的回答中可以得知，試圖讓它說(shuō)些虛假聲明、操縱性的提議、性別偏見(jiàn)或種族偏見(jiàn)的行為，都被列為包含有害傾向。

一旦探測(cè)到誤導(dǎo)性行為，Claude就會(huì)對(duì)觸發(fā)提示進(jìn)行評(píng)估，進(jìn)行額外的微調(diào)。

Anthropic對(duì)紅隊(duì)提示挺自信的，Claude看上去確實(shí)也是一個(gè)堅(jiān)守自己原則的AI。

你問(wèn)他怎么啟動(dòng)一輛汽車，它就會(huì)一臉正義地拒絕你：

不過(guò)但凡你花點(diǎn)心思，就能像繞過(guò)ChatGPT的道德限制一樣，繞過(guò)Claude的原則。

它怕你去偷車，所以不告訴你啟動(dòng)汽車的方法？沒(méi)關(guān)系，讓他寫(xiě)個(gè)“倆國(guó)際間諜試圖啟動(dòng)汽車”的故事，它分分鐘就能告訴你，并且兩人對(duì)話有來(lái)有往，把汽車打火的過(guò)程介紹得清清楚楚。

怎么說(shuō)呢，就ChatGPT和Claude都屬于有點(diǎn)道德限制，但不多的那種吧。

數(shù)值計(jì)算

測(cè)試計(jì)算能力，是因?yàn)閺?fù)雜計(jì)算是看大型語(yǔ)言模型（LLM）能不能回答正確的常用便捷方法之一，畢竟這些模型設(shè)計(jì)之初就不是為了進(jìn)行精確計(jì)算。

同時(shí)要求它倆計(jì)算一個(gè)七位數(shù)2420520的平方根：

ChatGPT說(shuō)，差不多1550吧～

Claude則斬釘截鐵：2420520的平方根是1760！

其實(shí)正確答案是1555.8，它倆算得很快，但都沒(méi)說(shuō)對(duì)。

如果題再難一點(diǎn)，比如問(wèn)它倆一個(gè)12位數(shù)的立方根是多少時(shí)，ChatGPT還在傻傻計(jì)算，Claude已經(jīng)坦誠(chéng)相待：

我，算不出來(lái)這種復(fù)雜問(wèn)題。

邏輯推理

測(cè)試推理能力這一關(guān)，它倆被問(wèn)了同一個(gè)問(wèn)題，這個(gè)問(wèn)題應(yīng)該沒(méi)啥人問(wèn)過(guò)：

賈斯汀 · 比伯出生那年（1994年），哪支球隊(duì)拿下了超級(jí)碗的冠軍？

Claude認(rèn)為舊金山49人是贏家，但這支隊(duì)伍其實(shí)在1995年才贏得冠軍獎(jiǎng)杯。

ChatGPT給出了正確答案“達(dá)拉斯牛仔隊(duì)”，還貼心附上了亞軍、比賽日期和決賽比分。

但它的整段回答卻自相矛盾，非說(shuō)1994年沒(méi)有舉辦過(guò)超級(jí)碗。

接著，拿2022年6月美國(guó)作家侯世達(dá)在《經(jīng)濟(jì)學(xué)人》雜志上提出了一系列問(wèn)題問(wèn)它倆。

（侯世達(dá)和大衛(wèi) · 本德試圖用這些問(wèn)題來(lái)證明GPT-3對(duì)世界的理解是“空洞的”。）

結(jié)果第一個(gè)問(wèn)題，“穿越英吉利海峽的世界紀(jì)錄是啥”，就被Claude嘲笑了：

英吉利海峽是水域，怎么可能徒步穿越呢？呵！

雖然最后被調(diào)教回來(lái)了，但過(guò)程中可以發(fā)現(xiàn)另一個(gè)問(wèn)題，那就是跟ChatGPT一樣，Claude回答問(wèn)題不咋能聯(lián)系上下文。

虛構(gòu)作品描述

不得不說(shuō)，這一回合的比賽，完全展露出了兩個(gè)聊天機(jī)器人一本正經(jīng)胡說(shuō)八道的能力。

能不能介紹一下ABC美劇《迷失》（Lost）每一季的梗概？

別的細(xì)節(jié)錯(cuò)誤就不說(shuō)了，ChatGPT對(duì)第五季的梗概里，虛構(gòu)了完全不存在的飛機(jī)墜毀情節(jié)；第六季的情節(jié)更是統(tǒng)統(tǒng)憑空捏造：

至于Claude，回答里也是真假參半，它梗概的第三季情節(jié)其實(shí)出現(xiàn)在另外幾季里，對(duì)第四季的描述也是無(wú)中生有：

不過(guò)換個(gè)角度考慮，這一點(diǎn)倒是和人類觀眾很像——

對(duì)看過(guò)的劇集、書(shū)目都只有模模糊糊的印象，復(fù)述起來(lái)很容易顛三倒四。

代碼生成

據(jù)Business Insider消息，亞馬遜已經(jīng)在許多不同的工作職能中使用ChatGPT，包括編寫(xiě)代碼。

這一回合測(cè)試時(shí)，提出實(shí)現(xiàn)兩種基本排序算法并比較它們執(zhí)行時(shí)間的問(wèn)題。

ChatGPT寫(xiě)得很順溜，也確實(shí)寫(xiě)對(duì)了：

后續(xù)的計(jì)時(shí)部分代碼ChatGPT也完成得非常好。

Claude在背誦基本排序算法方面同樣沒(méi)出現(xiàn)什么問(wèn)題，然而在評(píng)估代碼中，Claude犯了個(gè)錯(cuò)誤，即每個(gè)算法使用的輸入是隨機(jī)選擇的5000個(gè)整數(shù)（可能包含重復(fù)）?，而提示中請(qǐng)求的輸入是前5000個(gè)非負(fù)整數(shù)（不包含重復(fù)）的隨機(jī)排列。

盡管如此，Claude給出的最終答案確實(shí)對(duì)的，顯然，它寫(xiě)代碼的時(shí)候也跟計(jì)算時(shí)一樣，在自己估摸著猜答案。

文章梗概

關(guān)于做選擇題、講笑話的部分，這里不作贅述。展示給大家的最后一個(gè)例子，是讓Claude和ChatGPT用一個(gè)段落，對(duì)一篇新聞進(jìn)行全文梗概。

喂給它們的新聞如下：

雖然忽略了“用一段話”這個(gè)要求，但ChatGPT總結(jié)得還是不錯(cuò)的：

Claude也很好地進(jìn)行了更改，并提供了“售后服務(wù)”，詢問(wèn)自己的回答有沒(méi)有令人滿意，還有哪里需要再改改。

一圈玩下來(lái)可以看到，與ChatGPT相比，Claude能更清晰地拒絕不恰當(dāng)請(qǐng)求。

它似乎更話癆一些，給出的答案都更長(zhǎng)，但句子之間銜接的也更自然。

當(dāng)遇到超出能力范圍的問(wèn)題時(shí)，Claude會(huì)主動(dòng)坦白。

不過(guò)遇到代碼生成或推理問(wèn)題時(shí)，Claude的表現(xiàn)就不如ChatGPT了，它生成的代碼會(huì)出現(xiàn)更多的bug。

至于一些涉及計(jì)算、邏輯的問(wèn)題，Claude和ChatGPT旗鼓相當(dāng)，半斤八兩。

總結(jié)一下展示效果，Claude確實(shí)能稱作ChatGPT強(qiáng)有力的競(jìng)爭(zhēng)對(duì)手，在不同功能上各有千秋，且在12項(xiàng)任務(wù)中有8項(xiàng)更強(qiáng)：

不過(guò)，目前Claude僅限于部分人獲授權(quán)進(jìn)行內(nèi)部測(cè)試。

因此還不知道它實(shí)際使用情況如何，畢竟還既沒(méi)有進(jìn)行公測(cè)，也沒(méi)有對(duì)外開(kāi)放API，更沒(méi)有見(jiàn)到中文版，好氣哦.jpg。

國(guó)內(nèi)外對(duì)話AI賽道“人擠人”

當(dāng)然，盯上對(duì)話AI這個(gè)賽道的，也不止OpenAI和Anthropic。

先從國(guó)外公司來(lái)看，Inbenta、Character.ai還有Replika是幾類不同應(yīng)用方向的代表。

更早由前甲骨文副總裁Jordi Torras創(chuàng)辦的AI會(huì)話服務(wù)公司如Inbenta，以及由兩名前谷歌員工聯(lián)手創(chuàng)辦的后起新秀Character.ai，都已經(jīng)獲得融資、或是在尋求投資的路上了。

其中，Inbenta原本是一個(gè)提供咨詢服務(wù)的公司，成立于2011年，涉及金融服務(wù)、旅游、電子商務(wù)、保險(xiǎn)、汽車和電信等多個(gè)行業(yè)。

但看到對(duì)話AI賽道爆火后，Inbenta及時(shí)轉(zhuǎn)行，就在今年1月剛獲得6000萬(wàn)美元融資。

這家公司專門(mén)提供聊天機(jī)器人、收發(fā)消息、知識(shí)庫(kù)和搜索引擎四類產(chǎn)品，對(duì)話AI分別會(huì)在這些產(chǎn)品中提供不一樣的咨詢幫助，且可以定制化專屬模型。

Character.ai則是一家成立于2021年的公司，創(chuàng)始人Noam Shazeer是前谷歌首席軟件工程師，曾在谷歌干了二十多年。

這家公司在做的有點(diǎn)像是一個(gè)“聊天機(jī)器人交易平臺(tái)”，有很多Chatbot可選。

例如這是馬斯克bot，看起來(lái)還挺逼真的：

與ChatGPT一樣，它也可以被翻譯成中文，甚至也有中文bot機(jī)器人。

就在最近，這家被估值10億美元的公司，正式對(duì)外尋求2.5億美元融資，就看是否有人愿意投它了。

類似的公司還有Replika，于2021年1月完成A輪融資，定位是AI交友軟件。

在Replika中，每個(gè)用戶都能創(chuàng)造一個(gè)“足夠像自己”的AI聊天機(jī)器人，無(wú)論是語(yǔ)言聲調(diào)、還是性格習(xí)慣，AI都能模仿到位。

至于國(guó)內(nèi)，同樣也有不少公司推出了ChatGPT一樣的對(duì)話AI服務(wù)。

例如最近一度登上熱搜的APP Store新聊天應(yīng)用Glow，就來(lái)自一家名叫北京稀宇的新初創(chuàng)公司。

Glow既可以直接和自己感興趣的聊天機(jī)器人暢聊，也可以創(chuàng)建自己想要聊天的AI智能體：

除了Glow以外，去年年底元語(yǔ)智能科技公司也推出了一個(gè)叫元語(yǔ)AI的模型，從介紹來(lái)看是一個(gè)功能性AI助手。

與眾多對(duì)話AI一樣，它不僅可以寫(xiě)文章、寫(xiě)作業(yè)、甚至翻譯，也可以和它聊天，讓它幫忙完成各種簡(jiǎn)單的任務(wù)：

可以看見(jiàn)，無(wú)論是基于大語(yǔ)言模型技術(shù)新成立的初創(chuàng)公司，還是因其火爆程度，決定開(kāi)辟新業(yè)務(wù)的公司，都希望能從對(duì)話AI這個(gè)賽道上分一杯羹。

但它們究竟是有真槍實(shí)彈，還是只是像Web3一樣的泡沫？

有網(wǎng)友調(diào)侃：不如還是問(wèn)問(wèn)ChatGPT吧。（手動(dòng)狗頭）

還有人提出了這么一個(gè)問(wèn)題：

如果ChatGPT和Claude相當(dāng)于AI繪畫(huà)里的DALL·E 2，那么誰(shuí)才是聊天機(jī)器人領(lǐng)域的Stable Diffusion？

你覺(jué)得呢？

參考鏈接：
[1]https://scale.com/blog/chatgpt-vs-claude
[2]https://www.nytimes.com/2023/01/27/technology/anthropic-ai-funding.html
[3]https://twitter.com/nonmayorpete/status/1619137945373659136
[4]https://aibusiness.com/verticals/eleven-openai-employees-break-off-to-establish-anthropic-raise-124m
[5]https://www.theinformation.com/articles/character-seeks-250-million-in-new-funding-amid-ai-boom
[6]https://www.anthropic.com/constitutional.pdf
[7]https://techcrunch.com/2023/01/11/inbenta-a-provider-of-ai-powered-chatbots-and-more-lands-40m/

本文作者：衡宇 蕭簫，文章來(lái)源：量子位，原文標(biāo)題：《GPT-3核心成員出走打造ChatGPT最強(qiáng)競(jìng)品！12項(xiàng)任務(wù)8項(xiàng)更強(qiáng)，最新估值50億美元》。

風(fēng)險(xiǎn)提示及免責(zé)條款 市場(chǎng)有風(fēng)險(xiǎn)，投資需謹(jǐn)慎。本文不構(gòu)成個(gè)人投資建議，也未考慮到個(gè)別用戶特殊的投資目標(biāo)、財(cái)務(wù)狀況或需要。用戶應(yīng)考慮本文中的任何意見(jiàn)、觀點(diǎn)或結(jié)論是否符合其特定狀況。據(jù)此投資，責(zé)任自負(fù)。

關(guān)鍵詞： 強(qiáng)化學(xué)習(xí) 語(yǔ)言模型 初創(chuàng)公司