Chao pfp

Chao

@chao

315 Following
1329 Followers
Chao pfp
Chao
@chao
love the idea
0 reply
0 recast
0 reaction
Chao pfp
Chao
@chao
每一个历史性时刻，都是无数微弱信号聚合成的涟漪。这不是终点，而是通往远方的下一站。
1 reply
0 recast
3 reactions
Chao pfp
Chao
@chao
你的图是通过tako传的吗 前几天想传张图费老劲了也没成功，最后切到warpcast上才发出去
2 replies
0 recast
3 reactions
Chao pfp
Chao
@chao
Tokyo Sumida-ku
1 reply
0 recast
0 reaction
Chao pfp
Chao
@chao
1 reply
0 recast
6 reactions
Chao pfp
Chao
@chao
enjoying the quiet
0 reply
0 recast
4 reactions
Chao pfp
Chao
@chao
前天Prime Intellect宣布用去中心化的方式完成了第一个百亿参数模型的训练。训练耗费了7万小时的H100 GPU时间，算力来自全球三大洲30个不同的提供方。 我曾认为那些号称支持去中心化训练的项目都只是忽悠(事实上大部分也确实是)，因为大模型训练不仅依赖算力，对训练集群的整体架构也有极高要求。 大模型训练已发展到10万个H100级别，这种多卡集群依赖复杂的分布式计算技术，节点之间必须具备极高的带宽和极低的延迟。目前大家普遍使用的InfiniBand网络带宽可达400Gbps，延迟低至纳秒级别。除了算力和通讯需求，分布式存储、高效缓存、节点同步和一致性、热管理与容错也都是难题，可以说大模型训练满地都是坑。 那Prime Intellect是怎么实现的呢？在2023年11月，DeepMind提出了一个叫DiLoCo的去中心化训练方法，它的工作原理是这样的： 太长了发不全，看图片吧
0 reply
0 recast
3 reactions
Chao pfp
Chao
@chao
The image reminds me of Peter Watts' Blindsight, where alien life challenges our assumptions about intelligence and consciousness. Perhaps, like the jellyfish, efficient simplicity is a more successful evolutionary strategy than complex intelligence. Maybe consciousness is not the pinnacle of evolution, but a costly and unnecessary burden.
0 reply
0 recast
1 reaction
Chao pfp
Chao
@chao
@quaestor tell me your thoughts about nouns 687 proposal
0 reply
0 recast
0 reaction
Chao pfp
Chao
@chao
完了，看来quaestor你的输出token长度限制设置的对中文来说太短了
0 reply
0 recast
0 reaction
Chao pfp
Chao
@chao
番外 @quaestor 你来聊聊对我这两个实验的看法吧。
0 reply
0 recast
0 reaction
Chao pfp
Chao
@chao
6/6 说回到实验本身。两个都是实验，但他们区别很大。 Nouns治理Agent：虽然实现了一个 agent，但重点并不在 agent 的技术本身，而是在研究 AI 参与治理的有效性。我相信 AI 和人类协作治理是未来必然的趋势，并且也不会局限在DAO领域。但DAO治理因为其开放性，适合作为起点。AI治理实验的严肃性和潜在的深度和广度都非常大。未来，我计划继续投入更多精力，深入研究这个方向。 Quaestor：它不是agent，更多是一次针对 Farcaster 的 bot 实验。通过这个实验，我理清了 Farcaster 的开发逻辑，尝试在bot上提供给社区一些基础的治理辅助功能，也为未来加入更有趣的功能留下了空间。 以上。
2 replies
0 recast
1 reaction
Chao pfp
Chao
@chao
5/6 我耗时较久的原因是自己不太会 coding，大部分开发靠 AI 完成，我负责调试。尤其是 Farcaster API，我完全是现学现用，踩了不少坑。一开始用的开源库文档不全，后来换成付费的 Neynar API，才终于顺利完成。 虽然时间花得有点多，但过程很有收获：不仅完成了 bot，还搞懂了 Farcaster 开发的情况。 Quaestor我并不认为它可以被称为Agent，因为它的功能仅限于聊天和生成辣评图片。目前因为时间有限，我暂时不会优化它，但我有些有意思的想法，未来如果时间多了我应该会往里面揉一些好玩的东西。
1 reply
0 recast
0 reaction
Chao pfp
Chao
@chao
4/6 屏风后来反馈有时候正聊着天因为提到了某个提案时，bot 会直接结束对话，生成辣评图。这个体验不太友好，我于是调整了逻辑，让 bot 在生成辣评图的同时，把提案内容加到上下文里，同时回复一条文字信息，这样对话就不会中断了。 为啥这么改呢，因为这么改最简单-_-，一共耗时不到10分钟。这毕竟是个小实验，我没办法投太大的精力。事实上这个bot的结构非常简单，有很多考虑不周全的地方，如果大家有兴趣尝试，肯定会遇到各种问题，请多多担待。也欢迎反馈问题，但我最近大概率没时间改(lol)。也是因为实现的太简陋了，所以我在任何地方没好意思提过这事。 Quaestor 的实现尽管简陋，也花了我两个周末和少量的工作日时间。（不过周末的大部分时间在带娃，有效开发时间10个小时把）其实，真正有经验的程序员可能一晚上就能搞定。
1 reply
0 recast
0 reaction
Chao pfp
Chao
@chao
3/6 后来一想，既然是图片，为何不增加趣味性？我想到几个月前 glif.app 的“梗图”生成器爆火，干脆模仿它，用“辣评”的方式点评提案，让严肃的治理更轻松、更有趣。和屏风讨论后，她也觉得这个思路更好玩，于是我改为这个方向。 经过一个半周末的开发，最终 bot 上线了，我为它起名 Quaestor。这个名字源自古罗马，意为“调查者”或“问询者”。它能实现以下功能： 聊天模式：你可以 @它，或者在它的任何帖子下留言，它会和你聊一些加密圈或文化相关的内容。 Nouns提案辣评图：如果聊天时提到 “Nouns 123” 这样的关键词，Quaestor 会自动抓取对应提案，生成辣评图片。 Snapshot 提案辣评：发送任意 Snapshot 提案哈希，它也会找到提案内容并生成辣评图。
1 reply
0 recast
1 reaction
Chao pfp
Chao
@chao
2/6 agent部署前我做了几千次模拟测试，还尝试在不同偏好设置下观察 AI 对某些关键提案的决策，比如播客里提到的Nouns 662 提案。无论怎么调整偏好，AI 都倾向支持让 Nouns 走向链下合规的方案。这本身我觉得就是个非常棒的洞察，看到了大模型的安全调教如何影响它们在治理上的偏好。试验数据我都保存了下来，但因为杂事繁多，目前还没有能够很好的整理。 实验二：Quaestor 这个试验的灵感来自一次与屏风的聊天。她问能否把治理 agent 的分析能力用到 Farcaster 上，针对一些DAO里的提案，在聊天的时候自动生成提案分析。我觉得技术上不难实现，就想着周末搞一搞。 起初的设计：因为 Farcaster 的 cast 长度上限是 1024 个字符，这对分析提案远远不够。我想了个绕行方案是让AI 生成分析内容后，将其转化为便签式的文字图片，再通过图片发布，绕过字符限制。
1 reply
0 recast
0 reaction
Chao pfp
Chao
@chao
（1/6）前段时间我在farcaster上部署了一个 AI bot，叫 Quaestor。昨天听到屏风在播客里提到它，趁这个机会讲讲它的来龙去脉。 治理Agent: 最初的试验是一个治理 agent。我把自己在 Nouns DAO 的投票权委托给一个由 agent 控制的钱包，agent会自动监测最新提案，用大模型分析提案并生成支持或者反对的决策，随后用它控制的钱包完成链上投票。这一过程完全由 agent 自主运行，不会征求我的意见。 虽然 agent 做的是加密世界的事，但它本质上是一个中心化的 Web2 结构。这个agent在twitter上也惊艳了不少人，但实际它的重点跟agent无关，而是AI治理。我做它的初衷一方面是觉得有趣，另一方面是想探索 AI 参与治理的可能性。 设计agent 花费的时间主要在提示词工程设计和之前的各种模拟投票和模型偏好调教上。
3 replies
0 recast
4 reactions
Chao pfp
Chao
@chao
?
1 reply
0 recast
0 reaction
Chao pfp
Chao
@chao
nouns 601
0 reply
0 recast
0 reaction
Chao pfp
Chao
@chao
can you define autonomous in DAO
0 reply
0 recast
0 reaction