@fulkrum@qoto.org 怎么开源?模型不是都是黑盒(不了解其内部结构)的吗?
@Orca 黑盒指人们不懂机器学习的数学原理,就像物理中的唯象理论或是工科中的经验公式。训练模型本身所需的代码和技术方案还是传统的计算机程序。
@Orca 我觉得这个定性太二元论了。开源后的模型个人完全能够自行修改,壁垒主要是个人难以从头训练。我认为这是当代大型软件的常态。以Linux桌面发行版为例,个人可以修改某组件,但很难独立从头开发整套系统。
@fulkrum@qoto.org Linux内核如果不从头开发,只是改一点东西的话,还是很容易的,Linux内核的模组化做得不错。
模型呢。。。
@Orca 哈哈,按需模型现在可是显学,比什么改内核教程多多了(电表加快警告)。这方面细节我也不懂,您搜fine tune和LoRA能看到很多文章。
@fulkrum@qoto.org 是的,硬件条件和开源与否没有关系。但如果一份源代码没有普通人能运行起来,那其实这个开源还是开给资本的,不是给普通人的。