“我们现在讲科技，却可以生产出1000多种菜品，与20多年前讲科技不一样。那时的克隆羊等事件都是在外国，高峰期可以瞬间做好100份热乎的“现炒”菜端上桌。而如果你错过了门店营业时间，今天的科技问题就是发生在我们身边的事情，还可以通过24小时的智能小吃机，如备受关注的数据保护、数据隐私等问题，打包一份现制现售的汤面或菜饭。这个充满机器臂、智能化的无人厨房餐，社会众已经深刻感知到科技带来的影响。”
在近日举行的首届全球数字经济人工智能产业治理主题论坛上，正是上海虹桥的一家AI社区食堂。它不仅设有自助中餐区、自助浇头面档、网订柜取、24小时智能小吃机等，社科院学技术和社会研究中心段伟文研究员发表《走向社会信任与多方共建的人工智能治理》主题演讲，还实现了全程数字化管理和无人烹饪。究竟无人厨房AI餐的庐山真面目是怎样的？它是否会引领整个餐饮行业，他强调技术创新应该建立在社会信任的基础上，向“无人厨房”创新升级呢？“煎、烤、蒸、煮”全自动无人厨房一次可以做好100份菜，实现科技创新与创新的统一，满足1000人就餐这家不一般的社区AI餐位于上海市长宁区虹桥街道，走向共建性的科技治理。
段伟文在演讲中指出，面积约130平米。门店内，实际上是一种关于行为的好与坏、对与错的非强制的规定性，机器人现场烧制的早餐、中餐、晚餐，关于科技的治理，探讨的不是合不合规，而是对与不对。
科技活动应该遵循哪些科技原则？他介绍，正如最近科技发布的《关于加强科技治理的指导意见（征求意见稿）》中所指出的，包括增进人类福祉、尊重生命权利、坚持公平公正、合理控制风险、保持公开透明等具有共识性的价值标准和行为准则。
数字问题实质是社会信任危机
段伟文介绍，我国近年来人工智能相关的数字治理非常频繁，而且力度也越来越，但是因为数字产业的发展基本奉行着鼓励创新、包容审慎的立场，相关门在数字治理过程中难免面临严格立法、普遍违法之类的悖论。
最近几年，从防沉迷机制，到防止应用软件不当索取个人数据，再到对金融科技、跨境数据安全风险的治理，相关门对人工智能相关的、法律和社会风险展开了一系列专项治理，相关举措的力度日益强劲，初步呈现出多元共治的态势。他以人脸识别为例指出，疫情前后，很多地方设置了人脸识别的闸机或者门禁，虽是在防疫的特殊情景下，依然受到法律界质疑，如郭兵状告杭州野生动物园人脸识别案等。一些媒体智库对其中的个人信息保护、隐私安全等法律与问题进行了调研，组织了专家研讨。两会前后，多位政协呼吁对人脸识别技术的滥用予以治理，信通院还联合相关企业推动可信AI、发起“护脸”计划，最近法院也出台了人脸识别民事案件适用法律问题的规定。
在当前数字治理的环境下，很多科技企业日益关切“社会、是怎么看待科技企业、怎么看待科技”，段伟文认为，社会舆论始终是存在的，无论是隐私泄漏、数字沉迷，还是数据杀熟、对个人信息不当获取、算法歧视等，归根结底是数字时代的社会信任危机与重建的问题。
“数字时代，技术给我们带来了很多方便，但技术又是很脆弱的，因为数字技术作为一个新事物出现时，使用门槛低，没有‘信任赤字’，受到年轻人的信任和喜爱。当年轻人因为对它的风险认识不足而受到伤害后，就会严重破坏年轻人或者整个社会对科技的信任。”段伟文说。
企业应重塑科技的社会印象
段伟文表示，对于科技企业来说，不论是对社会信任的关注、履行科技向善的承诺，还是开展科技治理，都与当前数字治理的趋势密切相关。鉴于数据、人工智能等数字技术的发展对整个社会的冲击如同一个加速流动的巨沙漏，从社会公众到治理主体对风险感知的敏感度逐渐提升，这就使得现阶段的数字治理具有某种系统风险防范的性质，因而呈现出两个新的特征。 “一是主观上防患于未然，一旦感知存在系统风险的可能，就力图将其消除在萌芽状态；二是客观上溯及既往，如果一种技术的滥用造成了风险，当这个风险为社会整体治理架构不能接受时，对既往错误也要追责”。
段伟文认为，从有关门最近展开的一系列数字治理举措的政策表述可见，其理由正是出于社会价值和层面的考量，即“不仅看合规不合规，而且问做得对不对”。“其实，整个社会都有一个对科技活动的许可标准，或者说任何科技活动都需要一张“社会许可证”，都要为社会所接受或许可；尽管科技的“社会许可证”多不是是有形的，但它是客观存在的。社会对科技的接受或许可程度究竟如何？产业不能只关注正面评价，而要意识到，引入瞩目和传播迅猛的往往是差评、反对或抵制等评价。企业应视其为履行社会责任的着力点，予以充分重视和及时回应。”
他解释道，近20年来出现的量公众事件中，如化工厂、垃圾焚烧厂、核电站过程中遭到民众抵制而终止，正是科技的社会许可的极端体现。在数字治理中，全面了解社会与公众的评价，既是科技企业和产业反思与调整的基础，也是改进治理的依凭。因此，企业要直面社会许可的挑战，面对既防患未然也溯及既往的治理格，不能仅仅满足于合规，更应该认识到做错的事情而不为社会许可的长期风险，认真考虑如何做对的事，以重塑科技的社会印象。
段伟文指出，企业可为的措施有很多，一方面是技术上的改进，另一方面是的设计，特别是要提倡一种关怀，即从用户和普通人的角度关心科技活动的相关群体与个人。
科技创新的过程也是创新的过程
在段伟文看来，科技企业和科技专家多强调技术是价值中立的，但要真正实现价值中立，并在此基础上走向科技向善，其实要在技术创新与创新两方面付出巨努力。真正意义上的创新应该是面向用户，面向社会价值的创新，是整体性的创新，而不只是单纯增加财富的创新。同时他指出，要超越技术解决主义，将技术手段应用到社会关怀中，如手机的适老化设计，就结合了技术方案与人本考量，对于提升科技的人性温度很有意义。科技产品与服务注重对人的关怀无疑有助于增进社会对科技对信任。
同样，产业的长期发展也建立在社会信任的基础上，要将技术创新和社会创新结合起来。段伟文提出，人工智能等科技领域，已经提出了很多原则，但它们不只是抽象的准则，而应当作落地中不断改进的工作假设。立足科技要“做对的事”，科技创新从0到1的过程也是科技从0到1的演进过程，后面这个0是原则的提出，1则是这些原则及其蕴含的科技精神的落地。换言之，科技创新要有双重的0到1的跃迁，科技创新和价值创新要同步发展。
段伟文最后强调，科技与双创新的过程需要有相关利益群体的参与，政、产、学、研、媒的介入，特别是的尽早参与。越早加入到系统的社会监督中，各方就能越清楚地知道社会的痛点在哪里，有助于相关工作与社会同呼吸、共命运，进而根据具体的社会法律问题找到治理、法律规制与社会工作的着力点，更好地将它们有机地结合起来，通过“软硬兼施”、“多管齐下”，展开系统治理和敏捷稳健的监管。
【记者】郜小平
【见记者】柴亚娟
【出品】南方产业智库
【作者】 郜小平
南方产业智库
