171期 豆泥、映昕 看不見的平台清道夫 擋垃圾、別誤刪，社群平台怎樣打掃垃圾？

不要只看自己个人的事，也要看别人个人的事。

擋垃圾、社群平台的人一旦變多，垃圾內容也跟著湧進來，賭場、賣藥、詐騙、內容農場，這些貼文混進正常內容之間，目的只有一個：騙人，或騙流量。你每天滑過的乾淨首頁，背後有一群「看不見的清道夫」在打掃。平台用 AI 為每篇貼文打「垃圾分數」過線就隱藏，但同一條線，總會一邊放過垃圾、一邊誤刪好人，這種偽陽性，數學上永遠無法歸零。這場分享將以 Matters.town 為例，攤開整套治理：機器如何打分、垃圾集團如何洗版與落網、七種處置手段的輕重。更重要的是，當文章被刪、網域被封，你還能不能自救？去中心化儲存（IPFS）如何做到「刪掉一個，還有千千萬萬個我」？審查與抗審查其實一體兩面，歡迎一起來談。

2026年7月16日的夜话，邀请了豆泥与映昕两位嘉宾，深入探讨了Matters作为去中心化社群平台，在面对海量垃圾账号、广告骚扰以及内容治理方面的演进历程与技术实践。

在社群平台中，信息治理本质上是一场道高一尺、魔高一丈的博弈。随着人工智能技术的迭代，防御端在进步，而垃圾信息的发送端同样实现了迅速演进。过去依靠机械化手段发布广告的人员，如今已转型为利用自动化工具进行骚扰的专业化力量。这种现象揭示了一个动态赛局：若平台缺乏高效清理机制，内容生态将迅速退化。然而，当平台建立起众包治理机制与多层级AI过滤体系，显著提高了垃圾信息传播的成本，恶意账号便会基于成本效益考量，转向防御薄弱的其他领域。因此，治理的核心不在于彻底根除，而在于建立高度的透明度与反馈闭环，维持平台基本生态价值。

AI在内容协作与代码开发中的广泛应用，促使从业者进行深刻的身份重构。当用户通过AI辅助处理文稿，或在AI引导下参与底层代码协作时，本质上是在进行一种高级的组装工作。AI处理重复性、机械性事务的能力，极大地解放了人类生产力。然而，协作并非盲从。在复杂的系统架构设计与法律责任承担上，人类的经验依然是不可替代的基石。参与者一致认为，使用AI的过程应当是一种持续的交叉诘问。通过不断向AI发起挑战、保持审慎态度，并结合真实世界经验进行多维度校准，人类才能在AI幻觉与技术边际之间，找到更具创造性的空间。

随着模型能力的演进，传统创作与开发范式正在发生转移。当AI能够胜任自动化侦错甚至获取系统操控权限时，人类所面临的挑战已从如何完成任务转向如何构建架构。面对未来，教育与从业重点正加速转向更具探索性质的领域。虽然部分传统行业可能随技术变革而收缩，但只要人类能利用AI释放出的时间，去关注那些AI难以介入的破格思维与灵感捕捉，便能在技术洪流中把握住新的机遇。

相关资料链接：

马特市治理原则：https://governance.matters.town/reading/transparency-method/

守望相助队项目：https://community-watch.matters.town/

马特市海巡队AI：https://matters.town/@coastguard_ai

垃圾内容数据集：https://huggingface.co/datasets/thematters/matters-spam

模型学习机制解析：https://governance.matters.town/reading/how-the-model-learns/