Pues nada, ya no estoy suscrito a la newsletter de Zeke Hausfather @hausfath
Ya no solo por la decisión cuestionable de usar substack como medio de difusión de la newsletter, es que encima ahora tengo que aguantar que un científico climático me intente convencer de lo maravilloso que es trabajar con IA, y encima usando la trampa de hacer pasar las queries como lo único que consume energía (llega a decir que una ducha de agua caliente gasta más energía que 6000 queries) cuando cualquiera que sepa lo mínimo de este problema sabe de sobra que el principal gasto energético no está en las queries, sino en el entrenamiento, y tratar de llevar las críticas por esos derroteros no es sino un ejercicio de deshonestidad brutal.
Otro que muerde el polvo. En fin.
@Shine_McShine @hausfath Ojo porque el coste de inferencia también es mucho más de lo que te cuentan. Las compañías que tienen los modelos "frontera" no publican los datos, así que sólo podemos intentar estimarlos, pero este artículo del MIT es tal vez el más completo que he visto del tema y no pinta bien: https://www.technologyreview.com/2025/05/20/1116327/ai-energy-usage-climate-footprint-big-tech/
Y el artículo tiene 1 año, el problema sólo va a peor, porque cada vez los modelos son más grandes y "comen" más tokens para una misma consulta.
@Shine_McShine @hausfath Otra cosa que también suele pasarse por alto, es que a veces da la impresión de que el entrenamiento se hace una vez, se saca el modelo y ese ya no se toca más. Nada más lejos de la realidad, las compañías que hacen modelos "frontera" están entrenando los modelos que ya han salido al mercado constantemente, haciendo ajuste fino, actualizando nuevos datos...
@doragasu@mastodon.sdf.org @Shine_McShine@neopaquita.es @hausfath@fediscience.org
Ya puestos, hay que recordar que en ocasiones, cuando la IA se atasca, cuelan como respuestas de la IA redactadas a todo correr por humanos de países del tercer mundo cobrando una miseria. Y que a su vez se utilizan para entrenar a la IA, claro.
Que poco se habla de eso.
