外滩
大会参会规模创新 高，人们都在关注如何防止AI作恶

　　9月7日(rì)，2024 Inclusion·外滩(tān)大会正式闭幕。事实上，这一天下午，距离大会闭幕几个小时前，仍有观众在排队(duì)入场。官方数据显示，本届大会共(gòng)吸引了5.2万人现场参会，无论是(shì)参(cān)会规模还(hái)是国际嘉宾的数量，均创下了历史新高。除了年轻人，记者注意到，观众队伍中还有不少老人、小(xiǎo)孩(hái)。

　　本(běn)届
外滩大会(huì)以“科技·创造可持续未来”为主题，包括36场开放见解论坛、10多场创新者舞(wǔ)台、2场AI创(chuàng)新(xīn)赛事、1场10000平方米的展览(lǎn)以及1场绿色生活节和1场科技人 才招聘会(huì)。据统计，三天时间(jiān)内，有30余项(xiàng)AI新成果在本(běn)届外滩大会发布，包括蚂蚁AI生活管家“支(zhī)小宝”、AI金融管家(jiā)“蚂(mǎ)小财”，AI健康管家等(děng)。

　　10000平(píng)方米的展览(lǎn)场地汇集了(le)众多企业参展，记者观察到，相比往年，准备(bèi)各(gè)类(lèi)装备体(tǐ)验、互动的厂(chǎng)商越来(lái)越多了，许多展台前(qián)，观众为参与体验排起长队(duì)。重视人(rén)文性，成为本届外滩(tān)大会的一大特点。除了开幕式上24岁的独臂男孩周键借智能仿生手演奏钢琴的动人瞬间，在外滩大会的展区，借助设备观众可(kě)以体验将脑(nǎo)电波以花朵的形式可视化，让瞬间的情(qíng)绪(xù)形成纪念。还有可实现
“拥抱(bào)传递”的设(shè)备，穿戴上内嵌(qiàn)人造肌肉(ròu)纤维的特制背心，当另一个人拥抱装有压力传感器的模(mó)型时，体验者便能感受到模(mó)拟其声控(kòng)、触觉反馈和温度调节(jié)等多种感(gǎn)官元素
的“远程拥抱”。

　　在这一年的外滩大会上，如何让“技术向善”的讨
论(lùn)和研发更加被业界重视(shì)。

　　AI医疗受关注

　　为(wèi)期三天的展览中，AI医疗的(de)相关(guān)产品、企业展台(tái)总(zǒng)有着最(zuì)多的人(rén)流量，“爸妈记忆力下降了怎么办？”“AI如何辅助癌症筛
查？”这些问题让不少(shǎo)观众不自觉就迈入了相关展区，不断有老人(rén)加(jiā)入脑健康检测，有年轻人加(jiā)入脑电波的“画图”。

　　“和去年相比，今年外滩大会AI人工智能的份额感觉更高了，而(ér)且不是像之(zhī)前傻乎乎(hū)的那种，今年的(de)很多(duō)应用是真的有用的，明显能感(gǎn)觉到(dào)算法提升了很多(duō)，比如说面部(bù)识(shí)别功能或者语音交互功能，都(dōu)感觉上 升了一个档次，效果变好了，所以大家体验的热情也高。”一位参会的展商(shāng)对记者表示。

　　来不及喝口(kǒu)水，达摩院AI医疗展台的工作人员就迎来了下一位咨(zī)询的观众，今年的外(wài)滩(tān)大会(huì)上，达摩院医疗AI实验室展出了其AI医学影(yǐng)像外滩大会参会规模创新高，人们都在关注如何防止AI作恶分析产(chǎn)品，借助AI技术，这项(xiàng)产品能够(gòu)从平(píng)扫CT中(zhōng)进(jìn)行胰腺癌(ái)、食管癌(ái)、肠癌、胃癌等八大(dà)癌症及一系列慢(màn)性(xìng)病的筛(shāi)查，吸引(yǐn)了不少(shǎo)观众。

　　展(zhǎn)台的工作(zuò)人(rén)员告诉记者，通过AI识(shí)别，这项(xiàng)产品能够在(zài)肝癌、肺癌等癌症(zhèng)筛查中达到90%以上(shàng)的准确率，提(tí)升医生的工作效率，补足一些医疗资源不均衡带(dài)来的问题。

　　“其实这项技术主要是面向B端的，为医生服(fú)务，客户更多是(shì)医院、体验机构、保险公司、公益组织
以及软件厂商之类的，但这(zhè)两天很多个人也非常感兴趣。”上述工作人(rén)员表示。尽管许
多AI医(yī)疗产品并未直接面向(xiàng)C端用户，但外滩大会的观众们对AI医疗将如何改(gǎi)变疾病(bìng)的诊治感到好奇。

　　博斯腾科技的展台则(zé)吸引 到(dào)了大量的老年观众，许多(duō)老人纷纷(fēn)拿出手机(jī)通过支付宝“碰一碰”进行答题，检测自(zì)己得阿尔兹海默病的风险指数。展区的工作人(rén)员介(jiè)绍，通过许多数据、资料的支撑，这款产品能(néng)够通过答题(tí)测验、语音交互、动作识(shí)别等方(fāng)式(shì)检测阿(ā)尔兹海默病(bìng)，并通过大模型生成用户专属的脑健康训练(liàn)计划。

　　“我们的产品(pǐn)2020年成型(xíng)，但借助摄像(xiàng)头(tóu)的动(dòng)态识别功能是(shì)今年刚推出的，主要是借力于(yú)AI功能的发达，包括训练方案(àn)的推荐(jiàn)，也的确在(zài)大模型出(chū)现后智能了很多。”该展区的工作人员告诉记者。随着AI的发展，更多AI医疗产品的“进化”值得期待。

　　需要强调的(de)是，目前，许多AI医疗产品的诊疗效果仍缺(quē)乏公开数据或第三方权(quán)威机(jī)构的验证，相关展台的 工作人(rén)员也均表示AI医疗产品(pǐn)无法完全代替医生诊疗需求，以(yǐ)辅助作用
为主。不过，AI在医疗(liáo)问题中的应用的确被业界期待。

　　不(bù)少大(dà)厂也在押注AI医疗赛道(dào)。外滩大会上，支付宝发布AI应用新产品“AI健康管家”，为用户提供找医生、读报(bào)告(gào)、陪看诊、问医保、管健康等30多项AI健康服务。百川智能创始人王小(xiǎo)川则介(jiè)绍，百川智能将重点在大(dà)医疗AI领(lǐng)域做(zuò)投(tóu)入，从儿科医生、全科医生两个切入点发力，希望在明年实现医(yī)疗的(de)低成本和可及性，减(jiǎn)少医院(yuàn)的挤(jǐ)兑(duì)现象。

　　全国政协常委周汉民
在外滩大会的一场论坛中表示，随着人 工智能等新技术的(de)不断发展和应用，医疗产(chǎn)业正迎来一(yī)场深刻的(de)变革。据他(tā)观察，从最初的影像诊断、辅助诊疗、基因检测，到近年来的药(yào)物(wù)发(fā)现、临床试验、健康管理等(děng)，人工智能在提高精准度与效率、个性化治疗、数据处(chù)理等方面具(jù)备显著优势。他指出，医疗健康与人工智能的(de)融合还延伸到 了中医领域。

　　谈及人工智(zhì)能在医(yī)疗 产业的(de)应用(yòng)情(qíng)况，周汉民表示，人工智能(néng)在医疗(liáo)健康产业的(de)应用应着力提高精准性、适(shì)用性和安全(quán)性，此外，还(hái)需关注(zhù)人工智能的引入是否会导致医护人员技(jì)能萎缩、对人工智能的(de)信任的误判以
及信(xìn)息(xī)超载。

　　以AI对抗AI

　　在期待技术带来美(měi)好生活(huó)的 同(tóng)时，如何预防(fáng)技术“作恶”也成为外滩大会讨论的热(rè)点话题。

　　今(jīn)年的外滩大会上，举(jǔ)办(bàn)了包括“afac2024金(jīn)融智能创新(xīn)大赛”和“全球Deepfake攻防挑战赛(sài)”两场子赛事在内的AI创新大(dà)赛，由于近日韩国曝出“Deepfake”（深度(dù)伪(wěi)造技术）事件，被认(rèn)为是采用新(xīn)犯(fàn)罪
手段的“N号房”案件重现，以AI对抗AI，Deepfake攻防挑战赛尤其受到观(guān)众的挑战。

　　事实上，随着AI技术(shù)的发展，Deepfake滋生欺诈等黑色产(chǎn)业(yè)链，AI换脸欺诈(zhà)带来的经济财产损失、名誉受损等事件正在成为全球挑战。

　　在外(wài)滩大会
展区，许多观众现场(chǎng)拍照，然后利用Deepfake换脸模(mó)型和(hé)算法，通过视频活化(huà)、微笑和眼镜模版对观众的(de)真实照片进行换脸，亲身感受了Deepfake的逼真。

　　而在外滩大会AI创新(xīn)赛·全球Deepfake攻防挑(tiāo)战赛的(de)表演赛上(shàng)，观众更是为AI识(shí)别AIGC伪造图片感到激(jī)动。在这场表演赛中，主持人拿出(chū)了9张玛丽莲梦露等女星的照片，其(qí)中2张是AIGC伪(wěi)造的，选手用自己的(de)参赛模(mó)型(xíng)给(gěi)出每(měi)张图片(piàn)的伪造概率值(zhí)，并对概率值最高的2张照片与正确答案进行(xíng)比对(duì)。最终，两支参(cān)赛队伍的模型都找到了正确答案(àn)。

　　在后续(xù)的互动中，一个有趣的(de)现象是，人类肉眼能够看出“一
眼假”的(de)伪造图片，AI可能识(shí)别不出，一些肉(ròu)眼真假难(nán)辨的图片，AI反而能识别。新加坡科(kē)技研究局周天異教授分析，人类在判断图像是否伪(wěi)造会依赖直觉和(hé)逻辑，一(yī)些人
类(lèi)一眼便知的问(wèn)题AI无法(fǎ)联系(xì)相关(guān)背景(jǐng)、情形无法识别(bié)，而一些难以识别的图片，AI一丝(sī)不苟、勤勤恳恳(kěn)地完(wán)成人类指令(lìng)的工作模(mó)式反而能找出问题(tí)。他表示(shì)，相比“一眼假(jiǎ)”的(de)图片，恰恰是这些难以识(shí)别的(de)图(tú)片往往给(gěi)人类带
来更大损失，因此，用 AI应对Deepfake有着重要意义。

　　“从我们现在看到的数据来看，我们叫Deepfake的攻击也好，AIGC的生(shēng)成伪造，今年的攻击量比去年大概增加了(le)10倍，去年(nián)攻击(jī)的浓度大概是1%，今年就是10%。整个风险其实是呈指数级上升的情况，这 不
仅仅是在(zài)中国，在韩外滩大会参会规模创新高，人们都在关注如何防止AI作恶国，在(zài)菲律宾、印尼等国(guó)家都有类(lèi)似的情况发生。”外(wài)滩大会AI创新赛·全球Deepfake攻防挑战(zhàn)赛出(chū)题(tí)人、ZOLOZ技术总监姚伟斌表示，10%的浓度意味着业界发现线上的流量有10%是(shì)Deepfake的流量，随(suí)着AIGC的发展(zhǎn)，生成的(de)成本会越来越低，效率越来越高(gāo)，明(míng)年可能不是20%，可能是50%，这是一个必须重视的(de)威胁。

　　更多引导 AI向善的观点也在外滩大会被讨论，姚(yáo)伟
斌坦言(yán)，研发检测
算法，只是遏制(zhì)Deepfake技术滥用的方式之一。这种方(fāng)式是相对
滞后的。如果要从根源上防范欺诈行为(wèi)，姚伟斌认(rèn)为应在标准和立法角度，要求(qiú)给A IGC 内容建(jiàn)立通用标识，比如每一张AIGC生成的视频或图片
都在文件信息里带一个签名或水印，这样平台管理更(gèng)有依据，也能让(ràng)AIGC 可以更可信(xìn)。

　　“让人(rén)工智能帮助人弹钢琴，而不是作恶(è)。”是本
届外滩大会反复强调的价值观。上(shàng)海市数据(jù)科学(xué)重(zhòng)点(diǎn)实验室主任肖仰华表示，AI的大规
模(mó)滥用是可能损(sǔn)害人(rén)之为人的本性(xìng)的。要有所为有所(suǒ)不为，但凡伤害人之为人之本(běn)性的AI应用
，我们要谨慎(shèn)，要加以限制。为此，“我们要(yào)重视技术治理(lǐ)，并将治(zhì)理提前考虑，做到未雨绸缪。”

　　浙(zhè)江强脑科技创始(shǐ)人兼CEO韩璧丞则表
示，AI伦理委员(yuán)会的(de)存在非常重要。技术前进(jìn)的时候，更应该关注“走的慢”的人。“当一(yī)个(gè)足以(yǐ)改变世界的技术出现时，我们先用它来帮助最需要(yào)的人(rén)”。

　　（本文来(lái)自第一财经）

责任编辑：李桐

未经允许不得转载：天津电机维修_天津进口电机维修_天津特种电机维修_天津发电机维修 外滩大会参会规模创新高，人们都在关注如何防止AI作恶