和国内的同行又聊了几句ChatGPT的事情,大致得出了以下结论:
1. 国内的语料质量和数量都远 不 如 其他语言,不如英语还算正常的话,比日语还少就离了大谱了。
所以如果国内想要训练大语言模型就一定要要用别的语言,寄希望于模型能通过翻译汲取别的语言里的知识。
其实这个也不仅仅是大语言模型的问题,放到人类世界我们管这个叫“留学”。
2. 国内的环境过于浮躁,当然这个浮躁不是开发人员或者科研人员的,而是投资人体现到产品身上的。
举个例子,OpenAI开放GPT模型就好像爱迪生开了个发电厂,然后给了几个例子,比如可以点灯,可以取暖,可以烧菜,然后让大家可以接入以后自己随便买电用。
国内的投资人搞不清技术,但是又希望把握时代风口,于是到处在那儿问:“这个电灯和煤油灯有什么区别啊?电炉能炒辣子鸡吗?电炉炒的辣子鸡和煤气炒的有什么区别吗?你说这个电能可以给电子管用,这个电子管能干什么呀?我们能不能搞个自己的电厂啊?”
3. 现今中国政府的监管已经体现出一种清朝统治者的反动心态,当新技术出现的时候,不问产生的土壤,不问可成长的未来,不问新生产力对这个世界的变化,先问会不会威胁统治:“利用生成式人工智能生成的内容应当体现社会主义核心价值观,不得含有颠覆国家政权、推翻社会主义制度,煽动分裂国家、破坏国家统一,宣扬恐怖主义、极端主义,宣扬民族仇恨、民族歧视,暴力、淫秽色情信息,虚假信息,以及可能扰乱经济秩序和社会秩序的内容。”
这种找个伟光正的理由对新技术进行限制的行为,我们一般叫“反动”,所谓反动,反的其实就是生产力的发展。
目前国内很多厂(甚至一些快递公司的技术部门)在积极翻墙拥抱ChatGPT。生产力的发展,浩浩汤汤,顺之者昌,逆之者亡。这一点上,无论是中国政府,还是签名暂停AI训练的那些大牛,还是我们这些小工程师,最终都挡不住。
My student is getting their US citizenship this Friday and after that they will be having dual citizenship. I was like wow good for you, you’ll be able to vote in two countries while I can vote in none! And I just paid £2587 to apply for permission to stay in the UK for three more years. By 2026, it will be my 10th year living in the UK and god knows how much more money I need to spend to be able to vote in this country one day.
RT @_86Anna_@twitter.com
好讚哈哈
[用中文學五十音]
https://line.me/S/sticker/22812047/?lang=zh-Hant&utm_source=gnsh_stickerDetail
我有个高中女同学,曾经是毛粉,而且还特别仇日。以前每到特定日期,她的朋友圈都少不了相关的粉红内容。但是她和我私交很好,加了我的微信后,在我的朋友圈也看了不少文章,受了一点影响。某天晚上,我突然接到她的电话,她很诚恳的跟我说:
“说实话你写的文章我不是全部能读懂,但是我觉得以你的人品,应该不会乱写。我只是想跟你说,今日不同往时,现在的环境特别左,你还是不要写了,我担心你会遭殃,停笔吧。”
那是2017年。说实话我听了这段话是既意外又感动。意外的是她作为一个毛粉居然也能意识到环境左转,说明她思想正在转变;感动的是,虽然没有价值观的认同,但她还是设身处地的为故人着想,这是一个人善良的体现。这种人是真的在乎你。
我显然没有听从她的建议。后来的局势发展也确实被她说中,但我还是很感谢她。她是为数不多我可以托付私人事务的人,虽然我们聚在一起的时候,也只是喝喝酒、叙叙旧。
我一直有种看法,一个心存善良的人,才是真正容易觉醒的人。因为环境的恶会和她内心的善迟早形成冲突,一旦有外来的真实信息冲击,很容易转变。相反是那些天天喊时髦口号的人,如果人心不纯,品行不佳,依然是不可交往的。因为他身上的恶,未必会比那些他所唾骂的人少。
说实话我很怀念这样的同学。因为在现实中同声易见,同德难求。在异国他乡要找一个真正值得坐下来喝一杯酒的人,已经很难了。