Content
@
0 reply
0 recast
0 reaction
Jayden Wei
@jaydenw3i
在未来10年里，人工智能将成为历史上最强大的力量放大器。这就是为什么它将引发大规模的权力重新分配。它将成为人类进步的最大加速器，但也将为战争和事故、恐怖组织、专制政府、权力过度扩张的公司以及公然盗窃和故意破坏等危害行为提供助力。设想一个能够轻松通过现代图灵测试却用于灾难性目的的通用人工智能。先进的人工智能和合成生物学技术不仅能为那些致力于寻找新能源或研发改善生命的药物的组织所用，也可能成为像特德·卡钦斯基这样的恐怖分子的工具。 人工智能既极具价值，又充满危险，因为它正是人性的最好与最坏方面的延伸。作为一种基于学习的技术，它能够持续适应、不断探索，生成全新的策略与见解，这些可能远远超出以往的人工智能的考虑范围。无论是要求它提出切断淡水供应的方法、让股市崩溃、触发核战争，还是设计...
2 replies
0 recast
2 reactions
Jayden Wei
@jaydenw3i
即将到来的技术浪潮中，如何安全地构建技术，我们还没有明确的操作指南。我们不能构建过于强大和危险的系统来进行试验。我们无法预知人工智能自我提升的速度，也无法确定某种尚未完善的生物技术若在实验室发生事故会带来何种后果。我们不知道将人类意识直接与计算机连接会产生什么结果，不清楚人工智能支持的网络武器对关键基础设施的潜在影响，也无法预测某种基因驱动在现实世界中可能引发的反应。某种快速进化、自我组装的机器人或新型生物制剂一旦释放到现实世界中，就无法撤销了。在某个时刻，即使是好奇也可能带来危险。即使你认为灾难发生的可能性很低，操作后果的未知性也应当让你停下脚步，谨慎行事。
0 reply
0 recast
0 reaction
everleek
@everleek
想想未来，真的很兴奋，人工智能尚未在医疗健康等其他行业大放异彩。等真的这一刻到来，众多行业还将向AI芯片等交出利润，追寻未来市场！
0 reply
0 recast
1 reaction
