明敏 發(fā)自 凹非寺

量子位 | 公眾號(hào) QbitAI

0代碼微調(diào)一個(gè)大模型，成本不到20美元（人民幣約144元）？

過程也非常簡(jiǎn)單，只需5步。

如LLaMA、GPT、StableLM等爆火的開源生成式模型，都能搞定。

這就是Monster API，一個(gè)最新火起來的API平臺(tái)。

有人覺得這個(gè)開源領(lǐng)域的新工作，能改寫AI開發(fā)的游戲規(guī)則，加速AI應(yīng)用的速度。

還有人興奮提問，之后會(huì)接入GPT-3/GPT-4嗎？

所以，它具體是怎么實(shí)現(xiàn)的？

五步零代碼搞定

簡(jiǎn)單理解，Monster API就是將微調(diào)步驟盡可能簡(jiǎn)易化，讓開發(fā)者不用再手動(dòng)進(jìn)行一系列設(shè)置，同時(shí)也提供便宜的GPU資源及內(nèi)存優(yōu)化。

具體過程如下：

第一步，選擇一個(gè)模型進(jìn)行微調(diào)。

比如LLaMA-7B、GPT-J-6B、StableLM-7B等，Monster API提供了至少10個(gè)基礎(chǔ)大模型。

第二步，選擇或創(chuàng)建微調(diào)任務(wù)。比如指令微調(diào)、文本分類等，或者自定義任務(wù)。

第三步，選擇一個(gè)HuggingFace數(shù)據(jù)集。

Monster API可以無縫集成HuggingFace數(shù)據(jù)集，可選擇范圍很大；還可以根據(jù)任務(wù)類型推薦數(shù)據(jù)集。

并且不用自己手動(dòng)操作，就能自動(dòng)設(shè)置好格式。

第四步，設(shè)置超參數(shù)。

第五步，檢查和提交。

在設(shè)置好如上所有步驟后，確定沒有錯(cuò)誤就可以提交了。

Monster API表示可以通過WandB上的日志來監(jiān)測(cè)任務(wù)。

在其博客中寫道，用DataBricks Dolly 15k微調(diào)LLaMA-7B完成3個(gè)epouch，成本僅需不到20美元（折合人民幣約144元）。

官網(wǎng)顯示，注冊(cè)用戶后會(huì)贈(zèng)送2500積分。會(huì)員分為三檔，收費(fèi)分別是每月9美元/29美元/39美元。

除了微調(diào)以外，Monster API還提供各種生成式AI的API接口，并表示成本比其他方案低80%。

背后公司已獲110萬美元融資

消息顯示，Monster API背后公司拿下了110萬美元的種子前資金（pre-seed funding）。

這家AI初創(chuàng)公司給自己的定位是要做“GPU領(lǐng)域的愛彼迎”，把全世界分散的GPU資源實(shí)現(xiàn)靈活調(diào)度，讓開發(fā)者們能夠以更低的價(jià)格使用。

創(chuàng)始人是兩兄弟Gaurav Vij和Saurabh Vij。

其中Gaurav Vij還創(chuàng)立了一家CV公司，正是因?yàn)镃V公司需要面臨巨大的云計(jì)算資本，才啟發(fā)了他們要做這樣一個(gè)平臺(tái)。

Saurabh Vij之前是歐洲核研究中心的粒子物理學(xué)家，同時(shí)也研究分布式計(jì)算。

兄弟倆表示在經(jīng)過多輪技術(shù)迭代后，他們優(yōu)化了消費(fèi)級(jí)GPU在機(jī)器學(xué)習(xí)任務(wù)上的性能，使得運(yùn)行Whisper AI模型的成本相較于AWS平臺(tái)降低了90%，所以他們就想著為什么不利用這個(gè)方法來幫助數(shù)以萬計(jì)的開發(fā)者們。

同時(shí)他們透露公司的一個(gè)客戶使用他們的分散的GPU計(jì)算資源，已經(jīng)節(jié)省了30萬美元。

參考鏈接：
[1]https://blog.monsterapi.ai/no-code-fine-tuning-llm/
[2]https://www.enterpriseai.news/2023/06/09/monster-api-launches-the-airbnb-of-gpus-with-1-1m-pre-seed/

— 完 —

量子位 QbitAI · 頭條號(hào)簽約

關(guān)注我們，第一時(shí)間獲知前沿科技動(dòng)態(tài)