OpenAI 執行長 Sam Altman 每一個 prompt 都開 Ultrafast。不是偶爾,是每一個。
OpenAI DevDay 上,Altman 表示自己每個 prompt 都開 Ultrafast 檔位(速度 8 倍、價格 6 倍)。文章說明該檔位的限制與價格,Altman 對速度與前沿成本的看法,以及作者對一般人是否該追速度檔位的判斷。
這是 The Every Podcast 主持人 Dan Shipper 在 DevDay 現場問出來的:
Dan:「你所有 prompt 都用 Ultrafast?」
Altman:「對。」
Dan:「太扯了。」
【Ultrafast 是什麼?】
Ultrafast 是 OpenAI 這次 DevDay 剛推的最快檔位。Altman 在 keynote 台上的說法是:速度是標準的 8 倍,價格是標準的 6 倍。
在 ChatGPT 裡,個人方案只有新的 Pro 500 才有,每月 500 美元。
補兩個細節,免得被斷章:8 倍指的是 token 生成速度,不等於整件事都快 8 倍;6 倍價是 API 和加購 credits 的算法。
翻成白話:最快、最貴、最少人用得起。然後老闆自己全開。
【他自己也知道有點超過】
他不是不知道。他說,他擔心 OpenAI 某種程度上會跟用他們工具做東西的人脫節;他也很清楚,不是每個人都能隨時、什麼事都用 Ultrafast。
下一句是:「But I have such a hard time dragging it back over.」
但我真的很難回頭。
很誠實。就像坐過商務艙的人跟你說經濟艙其實也不錯,你知道他是真心的,你也知道他不會回去坐。
【快,到底有什麼用】
主持人問他,住在 Ultrafast 的世界裡,到底差在哪。
他引了設計師 Bret Victor 十幾二十年前一場演講的大意(他自己先說「我可能會講得不太準」):創作者要跟自己正在做的東西有「即時的連結」。
他說,他沒想到回應來得這麼快,對他反覆思考的節奏差這麼多。不管是做東西還是想問題,「差別大到很誇張」。
【一般人什麼時候用得起】
這段是整集最誠實的對話。
Dan:「我什麼時候能每個 prompt 都用 Ultrafast?」
Altman:「現在付錢就可以。」
Dan:「我付不起。」
Max我本人也是,一萬五我暫時刷不下去。
Sam 說,以前 OpenAI 主要在把「智力」的價格壓下來,現在多了一個新方向是速度,自家晶片會是很大的助力。
Sam 也說,不久後就能用很好的價格提供 8 倍速,但到時候會有 100 倍速,「還會有 GPT-7 Galaxy 之類的」。
先講清楚:GPT-7 Galaxy 是他隨口舉例,不是發表。截圖說 GPT-7 要來了的,請不要做~。
他的結論是:就他看得到的範圍,永遠會有一個更聰明、更快、但價格更高的前沿;但 OpenAI 也會繼續拚命把每一塊錢能買到的東西往上推。
【Max 我的看法】
每個 prompt 都開 Ultrafast,是執行長規格。一般人不用跟。
他自己都講白了:8 倍速變便宜的那天,100 倍速已經上架。永遠有更快、更貴的那一檔在前面等你,追速度檔位,就像追一台永遠在改款的車。
不花錢的加速法比較實在:問題一次講清楚,背景、要什麼、不要什麼一次給,少來回幾次。省下的來回,不見得輸給八倍速。
至於 GPT-7 Galaxy,我們都還沒聽到。
科技財經世界觀察自我成長,歡迎訂閱我Max呂元鐘