全球各地的AI公司都在竞相打造更大、更好的模型,但问题在于,这些模型都需要大量算力。另一方面,一些研究人员和初创公司正在开发更小的模型,使其能够在边缘设备上运行,比如手机或电脑。
其中一家名为Underdog的初创公司,发布了一款用其新语音模型Woof制作的游戏,这个模型只有32MB。
这款游戏的场景是一个带有复古科技风格的房间,里面有打字机和CRT显示器。房间里还有一盏台灯,点击开关时会发出声音。开场提示用户注意城里“侵入式”的云服务提供商——显然是在影射基于云的模型。
你可以与打字机和音乐调音器互动。
你可以用键盘在打字机上输入任何内容,游戏会把它读出来。你也可以旋转调音器,生成不同类型的音乐。
所有这些都通过Underdog的语音生成模型在浏览器中运行。公司表示,该模型可以在大多数设备上运行,无需任何互联网连接。该模型有3100万个参数,并向所有人开放下载。
虽然这样一个小模型很可能无法取代更大的模型,但它仍可能足以驱动本地助手体验,或用于制作个性化播客。
这一演示发布的几周前,Underdog刚推出Bark,这是一款167MB的语音转文字模型,同样旨在在边缘设备上运行,用于转录和听写。
Underdog创始人Sigil Wen告诉TechCrunch,他之所以开始开发这款应用,是因为他不想像使用Granola这样的记事工具那样,而是想打造自己的系统,让AI模型能在用户设备上运行,并让用户拥有自己的数据。
“我认为,我们将能够在几个月内,把当今大多数最强大的模型运行在你已经拥有的设备上。我们只是想训练最好的开源模型,它们是美国制造的、开放的、能力强的,并且能让人们拥有私有AI,”他说,并提到了自己的宣言。
除了上面提到的两款语音模型之外,Underdog还发布了一款270亿参数的模型,可以在笔记本电脑上运行;此外,公司还有一款排队等待使用的应用,定位为Muse和Instinct的本地托管替代品。











