外滩大会参会规模创新高，人们都在关注如何防止AI作恶

　　9月7日，2024 Inclusion·外滩(tān)大会正式闭幕。事实上，这一天下午，距离大会闭幕几个小时(shí)前(qián)，仍有观众在(zài)排队入场。官方数据显示，本届大会共(gòng)吸引了5.2万人现场参会，无论是参会(huì)规模还是国际嘉宾的数量(liàng)，均创下了历史新高。除了年轻人，记者注意到，观众队伍(wǔ)中还有不(bù)少老人、小孩。

　　本届外滩大
会以“科技(jì)·创造可持续未来”为主题(tí)，包括36场(chǎng)开放见解论坛、10多场创新者舞台、2场(chǎng)AI创新赛事、1场10000平方(fāng)米的展览(lǎn)以及1场绿色生(shēng)活节(jié)和1场科技人才招聘会。据统计，三天时间内，有30余(yú)项AI新成果在本届外滩(tān)大会发布，包括蚂蚁AI生活管(guǎn)家(jiā)“支(zhī)小宝”、AI金融管家“蚂小 财”，AI健康管(guǎn)家等。

　　10000平方(fāng)米的展览场地汇集了众多企业参展，记者(zhě)观察到 ，相比往年，准备各类装备(bèi)体验、互动的厂商(shāng)越来越多了，许多展(zhǎn)台(tái)前，观众为参与体验排(pái)起(qǐ)长队(duì)。重视人文性，成为本(běn)届外滩大会(huì)的一大特点(diǎn)。除(chú)了开幕式上24岁的独臂男孩周键借智能仿生手演
奏钢琴的动人瞬间，在外滩大会的展区，借助设备观(guān)众可以体验将脑电波以花朵(duǒ)的形式
可视化，让瞬间(jiān)的情绪(xù)形 成纪念。还有(yǒu)可(kě)实现“拥抱传递”的设备，穿戴上内嵌人造肌肉纤维的特(tè)制背心，当(dāng)另一个人拥抱装有压力传感器的模型时，体验者便能感(gǎn)受到模拟其声控(kòng)、触觉反馈和温度调节等多种感官元(yuán)素的“远程拥抱”。

　　在这(zhè)一年(nián)的外滩大会上，如(rú)何让“技术向善
”的(de)讨论和(hé)研发更加(jiā)被业界重视。

　　AI医(yī)疗受关注

　　为期三天的展(zhǎn)览(lǎn)中，AI医疗的相关产品、企业展台总有着最多的人流量(liàng)，“爸(bà)妈记(jì)忆力下降了怎么办？”“AI如(rú)何辅助癌(ái)症筛查？”这(zhè)些问题(tí)让不少观众不自觉就迈入了相关展(zhǎn)区，不(bù)断有老人加入脑健康检测(cè)，有年轻人加入脑(nǎo)电波的(de)“画图”。

　　“和去年相比，今年
外滩大会AI人工智能的 份额感觉更高了，而且不是像之前傻乎乎(hū)的那种(zhǒng)，今年的很多应用(yòng)是真的有
用的，明显能感觉到算法提升(shēng)了(le)很多，比如说面部识别功能或者语音交互功能(néng)，都感觉上升(shēng)了一个档次，效果变好了，所以大家体验的热(rè)情也高。”一位参(cān)会 的展商对记者(zhě)表示。

　　来不及喝口水，达摩院AI医疗展(zhǎn)台的工作人员就迎来了下一位咨询的(de)观众，今年的外滩大会上，达摩院医疗
AI实验室展出了(le)其AI医学影像分析产品，借(ji外滩大会参会规模创新高，人们都在关注如何防止AI作恶è)助AI技术，这项产品能够从平扫CT中进行胰(yí)腺癌(ái)、食管癌、肠癌、胃癌 等八大癌症及一系(xì)列慢性(xìng)病的(de)筛查，吸引(yǐn)了不少观众。

　　展台的工作人(rén)员告(gào)诉记者，通过AI识别，这项产(chǎn)品能够在肝癌、肺癌(ái)等癌症筛查中达到90%以上的准确率，提升医生的工作效率，补足一些医疗(liáo)资源不均(jūn)衡带来的(de)问题。

　　“其实这项技术(shù)主要是面向B端的，为医生服(fú)务，客户更多(duō)是医院、体验机构、保险公司、公益组织以(yǐ)及(jí)软件厂商之类的，但(dàn)这两天很多(duō)个人也非(fēi)常感兴趣。”上述(shù)工作(zuò)人员 表示。尽管许多(duō)AI医疗产品并未直接面
向C端用户(hù)，但外滩大会(huì)的观众们对AI医疗将如何改变(biàn)疾病的诊治感到 好奇。

　　博斯腾(téng)科技的展台则吸(xī)引到
了大量(liàng)的老年观众，许多老人纷纷拿出手机通过支付(fù)宝“碰一碰”进行答题，检测自己得阿尔兹(zī)海默病的风险指数。展区的工作人员介绍，通过许多数据、资料的支(zhī)撑(chēng)，这款产品能够通过答题测验、语音交互、动作识别等方式检测阿尔(ěr)兹海默病(bìng)，并通过大模型生(shēng)成用户专属的脑健康训练计划。

　　“我们的产品2020年成型，但借助摄(shè)像头的动态识别功能是今 年刚推出的，主要是借(jiè)力于AI功能的发达，包(bāo)括训练方案的推荐，也的确在大模(mó)型(xíng)出现后智(zhì)能了很(hěn)多。”该展区的(de)工作人员告诉记者。随(suí)着AI的发展，更(gèng)多AI医疗产(chǎn)品的(de)“进化(huà)”值得(dé)期待。

　　需要强调(diào)的是，目前，许多AI医疗(liáo)产品的诊疗效果 仍缺乏公开数据或第三方权威机构的验证，相关展台的工(gōng)作人员也均表示AI医疗产品无法完全代替医生诊疗需求，以辅(fǔ)助(zhù)作(zuò)用为主。不过，AI在医疗问题中的应用的确(què)被业(yè)界期待。

　　不少大厂也在押注AI医疗赛道。外滩大会上(shàng)，支付(fù)宝发布AI应用(yòng)新(xīn)产品“AI健康管家”，为用户提供找医 生、读报告、陪看诊、问医保、管健康(kāng)等30多项AI健康服务。百(bǎi)川智能创始人王小川则介绍，百(bǎi)川智能将重点在大医疗AI领域做投入，从(cóng)儿科(kē)医(yī)生、全科医 生两个切入(rù)点发力，希望在明年(nián)实现医疗的低成本和可(kě)及性 ，减(jiǎn)少医(yī)院的挤兑现象。

　　全国政协(xié)常委周汉民在(zài)外滩大(dà)会的一场论坛(tán)中表示，随着人工智能等新技术的不断发展和应用，医疗产业正迎来(lái)一场深刻的变革。据他观察，从最初的影像诊断、辅助(zhù)诊疗、基因检测，到近年来的药物发(fā)现、临床试验(yàn)、健康管理等，人工智能在提高精准度与效率、个性(xìng)化治疗、数据(jù)处理等方面具备显著优势。他指出(chū)，医(yī)疗健康与人工智能的融合还延(yán)伸(shēn)到了(le)中医领域。

　　谈及人(rén)工智能在医疗产
业的应用情况，周汉民表示，人工智能在医(yī)疗健康
产业的应用应着力提高(gāo)精准性、适用性和安全性，此(cǐ)外，还需关注(zhù)人工智能的引入是否会
导(dǎo)致医护人员技能萎缩、对人工智能的信任的误判(pàn)以及信息超载(zài)。

　　以(yǐ)AI对抗AI

　　在期待技(jì)术带来
美好(hǎo)生活的同(tóng)时，如何预防技术“作恶”也成为外(wài)滩大会讨论的热点话题。

　　今年的外(wài)滩大会上，举办(bàn)了(le)包括“afac2024金融智能(néng)创(chuàng)新大(dà)赛(sài)”和“全(quán)球Deepfake攻防挑战赛(sài)”两(liǎng)场子赛事在内的AI创新大赛，由于近日韩国曝出“Deepfake”（深度伪造技术）事件，被认为是采(cǎi)用新犯(fàn)罪手段的“N号房”案(àn)件(jiàn)重现，以AI对抗AI，Deepfake攻防挑(tiāo)战赛尤其受到观众的挑
战。

　　事(shì)实上，随着AI技术的发展，Deepfake滋生欺诈等黑(hēi)色产业链，AI换(huàn)脸欺诈带来的经济财产损失、名誉(yù)受损等事(shì)件正(zhèng)在成为(wèi)全球挑战。

　　在外(wài)滩大会展区，许多观众现场拍(pāi)照，然后利用(yòng)Deepfake换脸模型和算
法，通过视频活化、微笑和眼镜(jìng)模版对观(gu外滩大会参会规模创新高，人们都在关注如何防止AI作恶ān)众的真实照片进行换脸(liǎn)，亲身感(gǎn)受了Deepfake的逼(bī)真。

　　而在外滩大会AI创新赛·全球Deepfake攻(gōng)防挑战赛的表演赛上，观众更是为(wèi)AI识别AIGC伪(wěi)造图片感到激动。在这场表演赛中，主持人(rén)拿出了9张玛丽莲梦露等(děng)女星(xīng)的照片，其中2张
是AIGC伪造的，选手用自己的参赛模型给(gěi)出(chū)每张图片的伪造概(gài)率值，并对(duì)概率(lǜ)值(zhí)最高(gāo)的2张照片与正确答(dá)案进行比对。最终(zhōng)，两支参赛队伍(wǔ)的模型(xíng)都找(zhǎo)到了正确答案。

　　在后续的互动(dòng)中，一个有趣的现(xiàn)象是，人类肉眼能够看出“一眼假(jiǎ)”的伪造图片，AI可能识别不 出，一(yī)些肉眼(yǎn)真假难辨的图片，AI反而能识(shí)别。新加坡(pō)科(kē)技研(yán)究局(jú)周天異教授分析，人类在判断图像是否伪造会依赖直觉和逻(luó)辑，一些人类一眼便知的问题AI无法(fǎ)联系相关背景、情形无法识别，而一些难(nán)以识别的图片，AI一丝不苟、勤勤恳恳地(dì)完成(chéng)人(rén)类指令的工(gōng)作 模式反而能找出问题。他表示，相比“一眼假”的图片，恰恰是这些难以识别的图片往往给人类带来更大损(sǔn)失，因此，用AI应对Deepfake有着重要意(yì)义。

　　“从(cóng)我们
现在看(kàn)到的数
据来看，我们(men)叫Deepfake的攻击也好，AIGC的(de)生成伪造，今年的(de)攻击量(liàng)比去年大概增加了10倍，去年攻击的浓度大(dà)概是1%，今年就是10%。整个(gè)风险其实是(shì)呈指数级上升(shēng)的情况，这不仅仅是在中(zhōng)国，在韩国，在菲律宾、印尼等国家都有类似的情况发生。”外滩(tān)大会AI创新赛(sài)·全球Deepfake攻防挑战赛(sài)出题(tí)人(rén)、ZOLOZ技术总 监姚伟斌表示(shì)，10%的浓(nóng)度意味着业界发(fā)现线上的流量有(yǒu)10%是Deepfake的流量，随(suí)着(zhe)AIGC的发展，生成(chéng)的成本会越来越低，效率越来(lái)越(yuè)高，明年可能(néng)不(bù)是20%，可(kě)能是(shì)50%，这是一个必须重视的威(wēi)胁。

　　更多(duō)引导AI向(xiàng)善的观点也在外滩大会被(bèi)讨论，姚伟(wěi)斌坦言，研发检(jiǎn)测算(suàn)法，只是遏制Deepfake技术滥用的方式之一。这种方式(shì)是相(xiāng)对(duì)滞后的。如 果(guǒ)要从根(gēn)源上防范欺诈行为，姚伟斌认为应在标准和(hé)立(lì)法角(jiǎo)度，要(yào)求给A IGC 内容建立(lì)通用标识，比如每一张AIGC生成的视频或图片都在文件信息里带一个签名或水印，这样平台管理更有依据(jù)，也能让(ràng)AIGC 可以更可信。

　　“让人工智能帮助(zhù)人弹(dàn)钢琴，而不是作(zuò)恶(è)。”是本届外滩大会反复强调的价值观。上海市数(shù)据科学重点实验室主任(rèn)肖仰华表示(shì)，AI的大规(guī)模滥用是可能损害人之为人的本性的。要有(yǒu)所为有(yǒu)所不为，但凡伤害(hài)人之为人之本性的AI应用，我们要谨慎，要加以限制。为此(cǐ)，“我们(men)要重视技术治理，并将治理提(tí)前考虑(lǜ)，做(zuò)到(dào)未雨绸(chóu)缪。”

　　浙江强脑科技(jì)创始人兼CEO韩璧丞则表示，AI伦理(lǐ)委员会的存在非常(cháng)重要。技术(shù)前(qián)进的时(shí)候，更应该关注“走的(de)慢”的人。“当一(yī)个足以改变 世界的技术出现时，我们先用(yòng)它来帮助(zhù)最(zuì)需要的(de)人”。

　　（本文来自第一财经）

责任(rèn)编辑：李桐

未经允许不得转载：天津电机维修_天津进口电机维修_天津特种电机维修_天津发电机维修 外滩大会参会规模创新高，人们都在关注如何防止AI作恶