進化中的 GPT-4,與 GPT-3.5 比較

一早起床看到了 ChatGPT 又升級了,從 GPT-3.5 升級到 GPT-4。雖然版本只有升級 0.5 ,但是,在仔細看了 OpenAI 的原始論文:GPT-4 Technical Report,真是又嚇到了!(請想一想,AI 風爆才是這3~4個月發生的事)

由於 GPT 4 論文裡沒有談到訓練數量及模型大小,但我們可以先複習一下:

GPT-2: 1.5億個參數, 訓練數據總量為40GB

GPT-3: 1750億個參數

GPT 3.5 : 數據未公開,但與 GPT 3 相似。算是 GPT 3 的微調版

如果大家這幾個有用過 ChatGPT 3 /Notion AI /New Bing ,應該可以感受到 GPT 引擎的威力(背後應該都是 GPT 3.5),整理資料/寫文創作/回答問題/接受訪問/導讀書籍/論文討論/Email回覆/程式設計/計劃安排…. 還有許多你想的到或想不到的應用,只要你懂的如何下指令(Prompt)

而今天(2023/3/15) 推出的 GPT-4 ,雖然沒有公開訓練數據,但倒是用不同的考試成績來展示火力!下述的資料,摘自 OpenAI 論文:GPT-4 Technical Report,由福哥整理並加上中文註解,標粗體為大幅進步的地方!

336362335 897147354895915 1525114271393035881 n

335698642 150974951211097 2285079531663982599 n

而且,現在 GPT-4,能夠做圖形識別了!並解釋相片裡代表什麼意義!(大驚)

UntitledImage

(摘自 OpenAI 論文::GPT-4 Technical Report)

這邊有 OpenAI GPT-4 的官方簡介,看了 GPT 4,大家可以想像一下 …這才是這一季的變化,一年之後/三年之後,又會有多大的改變呢?

如果記憶型知識不再需要(GPT 會搞定),那我們下一個成長點何在?我們應該如何因應?

當然,我也暫時沒有答案,只是持續探索&思考中,歡迎大家分享您的心得


#歡迎轉寄分享

#GPT-4 變身為學霸了

發佈留言

發佈留言必須填寫的電子郵件地址不會公開。 必填欄位標示為 *

這個網站採用 Akismet 服務減少垃圾留言。進一步了解 Akismet 如何處理網站訪客的留言資料