刚刚在看AI,想到个很有意思的点子——其实那么多乘法加法运算,并不一定需要用运算器啊。反正本来这些运算就可以接受精度下降。直接用模拟电路来实现乘法加法运算如何?
这有点类似TPU。TPU的优点,一方面是运算单元阵列排布,减轻瓶颈。另一方面精度上也有所取舍。但,至少就我所看到的,TPU在计算时,还是使用数字电路。这样做能耗和成本都挺高。
然后我查了一下。这个概念其实很早就提出来了。Analog computer,中文叫模拟计算机。是使用特殊硬件来执行特定计算的设备。不仅如此,还已经有人在研究能不能用模拟计算机来做神经网络运算了。

@shell909090 现在主要问题是反向传播需要保存梯度啊,没地方存算得快也不行。(当然可以发明新的理论)

Sign in to participate in the conversation
Qoto Mastodon

QOTO: Question Others to Teach Ourselves
An inclusive, Academic Freedom, instance
All cultures welcome.
Hate speech and harassment strictly forbidden.