科技的发展不应忽视人文关怀。9月5日，在2024 Inclusion·外滩大会的开幕式上，24岁的独臂男孩周键借智能仿生手演奏钢琴，在舞台上定格了温暖的一幕。随后，复旦大学计算机科学技术学院教授、上海市数据科学重点实验室主任肖仰华，与浙江强脑科技创始人兼CEO韩璧丞就人机共生的未来展开对谈。
他们认为，AI等技术的大规模应用将重塑人的内涵，进而重塑我们的社会关系。面对AI伦理等一系列风险挑战，应提前建立AI应用准则， 以人为本作为首要出发点。
在肖仰华看来，随着脑机接口与AI技术的广泛应用，机器已经成为人类的外脑、人类的四肢，人已经不再是传统生物意义上的人。他表示，智能时代，人将变成哲学家尼采笔下的“超人”，即自我超越的人。只不过这种自我超越，将是在机器智能等外力工具协助下而完成的。人将成为机器智能增强下的超人，或许这将会是在长期使用先进技术后，对人类社会的生产和生活带来的终极影响。”
“与之伴随的是，人与人之间的社会关系也将随之发生变化，AI将成为人类从事各种生产和活动的代理。人与机器之间的关系、机器与机器之间的关系，将不可避免的纳入到我们对社会关系考察范围，” 肖仰华说。
作为脑机接口技术应用的推动者，韩璧丞认为，脑机接口在未来5-10年内，会发生三个阶段的变化，分别是：修复、增强和更高阶的交互。修复是帮助最需要的人如有脑疾病、肢体残疾的人恢复正常生活。其次是增强，比如是不是可以借助脑机接口技术，根据老人的意识为其提供机能补充，让每个老人多走5-10年的路。下一代的交互则会变得更高阶，比如对话，现在是通过语言，未来可能不需要再通过语言对话，收到提问我们想一想就传递出去了。
在他们看来，新技术将带来更多新可能，但潜在的科技伦理问题也同样值得关注。
“AI大规模应用对人类生活有4大突出挑战，”肖仰华表示，首要挑战在于，我们的生产关系等社会发展上层建筑，如何适应以人工智能为代表的先进生产力的快速发展。“生成式人工智能技术发展，已经需要以月为单位进行记录。但是人类的情感、价值、伦理观念调整是十分缓慢的。如何调和这个矛盾，是我们需要直面的挑战之一。”
肖仰华认为，其次是技术普惠问题。要避免少部分人借助先进技术形成不正当的竞争优势。此外，我们还应该特别注意防范技术成瘾，防止先进技术对人类造成反噬。
人工智能可以“造人”，甚至可以“造超人”。韩璧丞认为，在助力肢体、视力障碍等人群上，AI技术已经发挥出越来越大的作用，帮助视障者重新“看见”，帮助肢体残疾的人重新恢复行动能力。但技术也可以使人获得一些超出常人的能力，如何平衡这些风险值得思考。
面向未来，他们认为，AI应用的首要原则应该是以人为本，回归科技服务于人的本质，凡是伤害人之本性的要格外谨慎。
在肖仰华看来，AI的大规模滥用是可能损害人之为人的本性的。要有所为有所不为，但凡伤害人之为人之本性的AI应用，我们要谨慎，要加以限制。为此，“我们要重视技术治理，并将治理提前考虑，做到未雨绸缪。”
韩璧丞表示，AI伦理委员会的存在非常重要。技术前进的时候，更应该关注“走的慢”的人。“当一个足以改变世界的技术出现时，我们先用它来帮助最需要的人”。
科技和人文的结合，是外滩大会不变的底色，如何发挥科技的力量，让每一个人的生活变得更好，是外滩大会持续的关注点。9月3日，2024 inclusion·外滩大会发布科技人文十大热点问题，涵盖科技普惠、绿色发展、生命科学、技术伦理等专业领域，与会嘉宾将共同探讨科技人文十问的前沿新观点和新思路。
2024 Inclusion·外滩大会于9月5日-7日召开，由外滩大会组委会主办，上海市地方金融管理局和上海市黄浦区人民政府支持。近期，长期关注全球科技趋势的权威媒体《亚洲科技日报》，评出了四大“2024下半年最值得期待的全球创新科技大会”，外滩大会入选。