外滩大会参会规模创新高，人们都在关注 如何防止AI作恶

　　9月7日，2024 Inclusion·外滩大会正式闭(bì)幕。事实上，这一天下(xià)午，距离大会闭幕几个小时前，仍有观众
在排队入场。官(guān)方数据显示，本届大(dà)会(huì)共吸引了5.2万人(rén)现场参会(huì)，无论是参会(huì)规模还是国际嘉宾的数量(liàng)，均创下了历史新高。除了年轻人，记者(zhě)注意到，观众队(duì)伍中 还有不(bù)少老(lǎo)人、小孩。

　　本届外滩大会(huì)以“科技(jì)·创
造可(kě)持续未来”为主题，包括36场开放见解论坛、10多场(chǎng)创新者舞台、2场AI创(chuàng)新赛事、1场10000平方(fāng)米(mǐ)的展览以及1场绿色生活节和1场科技人才(cái)招(zhāo)聘会。据统计，三天时间内，有30余(yú)项AI新成果在本届外滩大会发布，包括蚂蚁AI生活管家“支小宝”、AI金融管家“蚂小财”，AI健康管家等。

　　10000平方米的展览场地汇集了众多企业参展，记者观察到，相比往年，准备各(gè)类装备体验、互动的厂商越来越多了，许多展台前
，观众为参与体验排起长队。重视人文性，成为本届外滩大会的(de)一大特点。除(chú)了开幕式上24岁的独臂男孩周键借智能仿生手演奏钢琴的动(dòng)人瞬间，在外滩大会的展(zhǎn)区，借助设备观众(zhòng)可以体验将脑电波以花朵的形式可视化，让瞬(shùn)间的情绪形成纪念。还有可实现“拥抱(bào)传递 ”的设备
，穿戴上内嵌人(rén)造肌肉(ròu)纤维的特制背心，当另(lìng)一个人拥抱装有压力传感器的模型时，体(tǐ)验者便能感(gǎn)受到模拟(nǐ)其声控(kòng)、触觉反馈和温(wēn)度调(diào)节等多种感官元素的“远程(chéng)拥抱”。

　　在这一年的外(wài)滩大会上，如何让“技术(shù)向善”的讨论和(hé)研(yán)发(fā)更加被业界重视。

　　AI医疗受关注

　　为期三天的展览中，AI医疗的(de)相关产品、企业(yè)展台总有着最(zuì)多的人流量，“爸妈记忆(yì)力下降了怎么办？”“AI如何辅助癌症筛查？”这些问题让(ràng)不少观众(zhòng)不自觉就(jiù)迈入了相关(guān)展区，不断有老人加入(rù)脑健(jiàn)康检测，有(yǒu)年轻人(rén)加入脑电波的“画图”。

　　“和去年相比，今年外滩大(dà)会AI人工智能(néng)的份额(é)感觉更高了，而且不是像之前傻乎乎的那种，今年的很多应用是真的有用的(de)，明显(xiǎn)能感(gǎn)觉到算法提升(shēng)了很多，比(bǐ)如说面(miàn)部识别功能或(huò)者语音交互功能，都感觉上升(shēng)了一个档次(cì)，效果变好了，所以大家体验的热情也高。”一位参会的展商对记者表示。

　　来不及(jí)喝口 水，达摩院AI医疗展台的工(gōng)作(zuò)人员就迎(yíng)来了下一位咨询的观众，今(jīn)年的外滩大会上(shàng)，达摩(mó)院(yuàn)医疗AI实(shí)验 室展出了其AI医学影像分析产(chǎn)品，借助AI技术，这项产(chǎn)品能够(gòu)从(cóng)平(píng)扫CT中进(jìn)行胰腺癌(ái)、食管癌、肠癌、胃癌等八大癌(ái)症及一系列慢(màn)性病的筛查，吸引了不少观众。

　　展台的(de)工作人员(yuán)告诉(sù)记(jì)者(zhě)，通(tōng)过
AI识别，这项产品能够在肝(gān)癌、肺癌等癌症筛查中达到90%以上的准确率，提升(shēng)医生的工作效率，补足一些医疗(liáo)资(zī)源不均衡带来的问题。

　　“其实这项技术主要是面向B端的，为医生服(fú)务，客户更 多是医院(yuàn)、体验机构、保险公司、公益组织以及软件厂商之类的，但这两
天很多个人也(yě)非常感兴趣。”上述工作人员表示(shì)。尽管(guǎn)许多AI医疗(liáo)产品并未直(zhí)接面向(xiàng)C端用户，但外滩(tān)大会的(de)观众们(men)对AI医疗(liáo)将(jiāng)如何改变(biàn)疾病(bìng)的诊治感到(dào)好奇。

　　博(bó)斯腾科技的展台则吸引到了大量的(de)老年观众，许多老人纷纷拿出手机通过支付宝“碰外滩大会参会规模创新高，人们都在关注如何防止AI作恶一碰”进行答题，检(jiǎn)测(cè)自(zì)己得阿尔兹海默病(bìng)的风险指数。展区的工作(zuò)人员介绍，通(tōng)过(guò)许多数据、资料的(de)支撑，这款产品(pǐn)能(néng)够(gòu)通过答题(tí)测(cè)验(yàn)、语音交互(hù)、动作识别等方式检测阿尔兹海默病，并通过大模型生成用户专属的脑健康训练计划。

　　“我们的(de)产品2020年成型，但借助摄(shè)像头的动态识别功能是今年刚推出(chū)的，主要(yào)是借力
于AI功能的发达，包括训练方案(àn)的(de)推荐，也的确在大(dà)模型出现后智能了(le)很多(duō)。”该展区(qū)的工作人员(yuán)外滩大会参会规模创新高，人们都在关注如何防止AI作恶告诉记者(zhě)。随着(zhe)AI的发展，更多AI医疗产品的“进化”值得期待。

　　需要强调的(de)是(shì)，目(mù)前，许多AI医疗产品的诊疗效(xiào)果仍缺乏公 开数据或(huò)第三方权威机构(gòu)的验证，相关展台的工作人员也均表示AI医疗产(chǎn)品(pǐn)无法完全代替(tì)医生诊疗需求(qiú)，以辅助作(zuò)用为主。不过(guò)，AI在医疗问题(tí)中的应(yīng)用(yòng)的确被业界(jiè)期待。

　　不(bù)少大厂(chǎng)也在押注AI医疗赛道。外滩大会上，支付宝(bǎo)发布AI应用新产(chǎn)品(pǐn)“AI健康管家”，为用户(hù)提(tí)供找医生、读报告、陪看诊、问(wèn)医保、管(guǎn)健康等30多项AI健康(kāng)服务。百川智能创始人王小川则介绍，百(bǎi)川智能将重点在大医疗AI领域做投(tóu)入，从儿科医生、全科医生两个切入点发力，希望在明(míng)年实现医(yī)疗的低成本和可(kě)及性，减少医院的挤(jǐ)兑现象。

　　全(quán)国(guó)政协常委周汉民在外滩大会的一场论坛(tán)中表示，随着人工智能等新技术的不断(duàn)发展和应用，医(yī)疗产业正迎来一 场深刻(kè)的(de)变革。据他(tā)观察，从最初的
影像诊(zhěn)断、辅助诊疗、基因检测，到近年来的药物发现、临(lín)床试验、健康(kāng)管 理等，人工智能在提高精准度与效率(lǜ)、个性化治疗、数据处理等方(fāng)面具备(bèi)显(xiǎn)著(zhù)优(yōu)势(shì)。他指出，医疗健康与人工(gōng)智(zhì)能的融合还延伸到了(le)中医领域。

　　谈及人工智能在医(yī)疗产业(yè)的应用情况，周汉民表示，人工智能在医疗健康产业的应用应着(zhe)力提高精准性、适(shì)用性和安全性(xìng)，此外，还需关注人工智能的引入是(shì)否会导致(zhì)医护人员技能萎(wēi)缩、对人工智能的信任的误判以及(jí)信息超载。

　　以AI对抗AI

　　在期待技术带来美好生(shēng)活的同(tóng)时，如何
预防技术“作恶”也成为外(wài)滩大会讨论的热(rè)点话题。

　　今(jīn)年的外滩大会(huì)上，举办了包括(kuò)“afac2024金(jīn)融智能(néng)创新大(dà)赛”和“全球Deepfake攻防挑战赛”两场子赛事在内的AI创新大赛，由于近(jìn)日韩国曝出(chū)“Deepfake”（深(shēn)度伪造技术）事件，被认为是采用新犯罪手段(duàn)的“N号房”案(àn)件重现，以AI对(duì)抗AI，Deepfake攻防挑战赛尤 其(qí)受到观众的挑战。

　　事实(shí)上，随着AI技术的发展(zhǎn)，Deepfake滋(zī)生欺诈等黑(hēi)色产业链，AI换脸欺诈带来的经(jīng)济财产损(sǔn)失、名誉受损等事件正在成为全球挑
战。

　　在外滩大会 展区，许(xǔ)多观众现场拍照，然后利用Deepfake换脸(liǎn)模型和算法，通过视频活化、微笑和眼镜模版对观众的真(zhēn)实照片进行换脸，亲身感受了Deepfake的逼真。

　　而在外滩(tān)大(dà)会AI创新赛·全球Deepfake攻防挑战赛的表演赛上，观众更是为(wèi)AI识别AIGC伪造图片(piàn)感到激动。在这场表演赛中，主持人拿出(chū)了9张玛丽莲梦露等女(nǚ)星的照片，其中2张(zhāng)是AIGC伪造的，选手(shǒu)用自己的参赛模(mó)型给出每张图片的伪造概(gài)率值，并对概率值
最高的2张照片与正确答案进行比对。最终(zhōng)，两支参赛队伍的(de)模型都找到了正确答案。

　　在后续的互动中，一个有趣的(de)现(xiàn)象是，人类肉眼能够看出“一(yī)眼假”的伪造图片(piàn)，AI可能识(shí)别不出(chū)，一些肉眼真假(jiǎ)难辨的图片，AI反而能(néng)识别。新加坡科技研究局周天異(yì)教授分析，人类在判断图像是否伪造会依赖直觉和逻辑，一些人类一眼便知的问题AI无(wú)法联系相关背景、情形无法识(shí)别，而一些难以识别的图片，AI一丝不苟、勤勤恳恳地完成人类指令的工作模式反而能找出问题。他(tā)表示(shì)，相比“一眼假”的图片(piàn)，恰(qià)恰是这些难以识别(bié)的图片往往给人类带来更(gèng)大损失，因此，用AI应对Deepfake有着重要意(yì)义(yì)。

　　“从我们现在看到的数据(jù)来看(kàn)，我们(men)叫Deepfake的攻击也好，AIGC的生成伪造，今年的攻击量(liàng)比(bǐ)去年大概增加(jiā)了10倍(bèi)，去年攻击(jī)的浓度大概是(shì)1%，今(jīn)年就是10%。整个风险其实是呈指(zhǐ)数级上(shàng)升的情(qíng)况，这不仅(jǐn)仅是(shì)在中国，在韩国，在(zài)菲律宾、印尼等国家都(dōu)有(yǒu)类似的
情(qíng)况发生。”外滩大会(huì)AI创新赛(sài)·全球Deepfake攻防挑战赛出题人、ZOLOZ技术(shù)总监姚伟斌表示，10%的浓(nóng)度意味着业界发现线上的流量有10%是Deepfake的流量，随着AIGC的发展，生 成的成本会越来越低，效率越来越高(gāo)，明年(nián)可能不(bù)是20%，可能是(shì)50%，这是一个必须重视(shì)的(de)威胁。

　　更多引导(dǎo)AI向善的观点也在外(wài)滩大会被讨论，姚伟斌坦言，研发检测算法，只是(shì)遏制Deepfake技(jì)术滥用的方式之一(yī)。这种(zhǒng)方式(shì)是相对滞后
的。如果要从根源上防范欺诈行为(wèi)，姚伟斌认为(wèi)应在标准和立法角度，要求给A IGC 内容建立通用标识，比如每一张AIGC生(shēng)成的视频或图片都在文件信息里带一个签名或水印，这样平台 管理更有依据(jù)，也能让AIGC 可(kě)以(yǐ)更可信。

　　“让人工智能帮助人弹钢琴(qín)，而不是作恶。”是本届外滩大会反复强调的价值观。上海(hǎi)市(shì)数据科学重点外滩大会参会规模创新高，人们都在关注如何防止AI作恶实验室主任肖仰华表示，AI的大
规模(mó)滥用是可能损害人之(zhī)为 人
的本性的。要有所(suǒ)为(wèi)有所不为，但凡伤害(hài)人之为人(rén)之本性的AI应用，我们要谨(jǐn)慎，要加以限制(zhì)。为此，“我们(men)要重视技术治理，并将治(zhì)理提(tí)前考虑(lǜ)，做到未雨绸缪。”

　　浙(zhè)江强脑科技创始人兼CEO韩璧丞
则表示，AI伦理(lǐ)委员(yuán)会的存在非常重要。技术前进(jìn)的时候，更应该关(guān)注“走(zǒu)的慢”的(de)人。“当(dāng)一个足以改变世界的技术出现时，我们先用它(tā)来帮助最需要的人(rén)”。

　　（本文来自 第一财经）

责任编辑：李桐

未经允许不得转载：天津电机维修_天津进口电机维修_天津特种电机维修_天津发电机维修 外滩大会参会规模创新高，人们都在关注如何防止AI作恶