揭秘听见世界APP:人工智能公益助盲,复旦眸思大模型打破视觉界限

2024-02-05 15:42:55     来源:

 

随着科技的不断发展,人工智能不仅在商业领域取得了巨大成功,也在公益事业中展现了强大的潜力。一部名为《听见世界》的公益短片在社交媒体上引起了关注,它不仅让观众感受到深刻的情感共鸣,还展示了复旦眸思大模型如何借助AI科技为视障者打破视觉界限的努力。

目前,听见世界APP已经上线,盲人朋友可以在安卓商店进行应用下载。为揭开听见世界项目的神秘面纱,我们对复旦眸思公益助盲项目团队进行了专访。

源起:复旦眸思大模型,助力产品打破视觉界限

“在多模态大模型开发过程中,我们一直在探讨利用多模态大模型能具体做些什么。我们在眸思多模态大模型构建过程中使用了数亿张图片进行训练,其中有大量的自然场景,在测试过程中,我们发现它可以非常好地对自然环境,甚至是可以对非常罕见的自然场景进行准确描述,”中工互联首席科学家、复旦大学计算机学院教授张奇讲道:“我们觉得这就像是机器长了眼睛。由此,我们很快想到将图像转换为语音,可以为盲人朋友在行走、寻找物品等场景下提供巨大的帮助。”

图:听见世界项目研发团队部分成员

显而易见,复旦眸思大模型成为了听见世界APP运行的基石。

张奇教授表示:眸思大模型提出了全新的多视觉专家混合架构。它将擅长图文匹配、光学字符识别(OCR)和图像分割等多种经典视觉任务的专家巧妙地融为一体。在各类场景中,眸思大模型展现出良好的性能和逻辑推理能力。

中工互联(北京)科技集团有限公司创始人、董事长智振讲道:“眸思大模型是复旦大学NLP实验室的最新力作,代表国内科研机构最先进的技术水平。听见世界APP的表现非常惊艳。长远来看,随着人工智能技术的进步和未来脑机接口技术的突破,可能盲人朋友真就能‘看到’世界了。要实现这一长远的目标,需要全世界科技工作者共同的努力。”

图:中工互联董事长智振

推进:项目研发团队,产学研用强强联合

复旦大学自然语言处理实验室与复旦大学视觉与学习实验室在开发复旦眸思多模态大模型时就同步进行了听见世界项目的开发工作。该项目由复旦大学桂韬、纪焘、张奇、黄萱菁、邱锡鹏、吴祖煊、姜育刚等主导,樊晓然、江常皓、李烁、金森杰等近20名博士和硕士研究生共同参与了产品研发。

图:张奇教授

“中工互联在整个项目的研发过程中给予了全方位的支持,”张奇教授讲道:“我们之间建立了良好的战略合作关系,在中工互联擅长的工业领域,我们一起利用多模态大模型,在图纸理解、产品质检和异常检测等领域开展了广泛的产品落地。”

智振董事长表示:中工互联复旦大学联合实验室,以及智工·工业大模型研发团队全程参与了项目研发。项目团队由顶级大学科研队伍和务实的产品落地成员组成。既有创新精神又可以高效快速落地。这种能力在智工工业大模型的研发中得以展现。

应用:我是你的眼,世界就在你耳边

听见世界APP采用安卓系统进行开发,可以支持最低端的智能手机。在后端模型架构层面,研发团队采用了非常灵活的部署策略,可以使用智算中心的闲置算力,甚至是居民个人家庭中3090显卡的闲置时间。

听见世界APP的全部识别功能都全部来源于眸思大模型,在不同的模式下预设了不同的Prompt,从而方便盲人朋友使用。

据悉,听见世界APP产品目前设计了街道行走、物品寻找、自由问答和电视介绍等四种模式。它可以成为视障人士的生活助手与智能管家。

图:听见世界APP电视介绍模式

举个例子。当盲人朋友开启街道行走模式,听见世界APP会通过摄像头实时捕捉交通画面,并将画面传递给复旦眸思大模型,由模型识别当前场景中的情况,并对红绿灯、路口、台阶、坡道等信息进行重点识别,进而生成文字并合成语音,播放给盲人朋友。

图:听见世界APP街道行走模式

“其他模式与这个类似,都是通过摄像头捕捉图像,盲人朋友通过语音与模型进行交互,从而得到整体结果,”张奇教授讲道:“未来,我们会围绕盲人的衣食住用行等方方面面的需求,全面完善产品功能。让听见世界APP真正变成盲人的朋友的‘眼睛’。”

图:听见世界APP物品寻找模式

智振董事长表示:听见世界APP,我们为它找到了一个产品推广语——我是你的眼,世界就在你耳边。这款产品既可以成为盲人朋友生活的必备工具,让他们和正常人一样感受到世界的美好。

图:听见世界APP可以实现实时交互

未来:定位公益项目,让每一份生活都更美好

关于听见世界APP产品应用成本,研发团队曾经算过一笔账。

张奇教授分析道:在大模型层面,我们目前有80亿、140亿和350亿等三个参数版本。即便采用80亿参数的版本,一个终端每小时所消耗的GPU计算费用在1元左右,估算下来,服务每个盲人朋友每个月大约需要150元左右。但是,我们希望尽最大努力,协调各方资源,将这个产品免费提供给盲人朋友。

张奇教授表示:“在政府的支持下,我们计划与NGO组织、智算中心和硬件厂商等开展合作,致力于让盲人朋友免费使用产品和相关的服务。”

图:复旦大学NLP实验室青年副研究员桂韬

“在人工智能引领的时代潮流中,我们不应该忽视任何一个人,眸思项目能够帮助1800万盲人重新找回生活的色彩,这不仅是技术的一次飞跃,也是人工智能在服务人类,改善我们生活方面道出的重要一步,”复且大学自然语言处理实验室青年副研究员桂韬表示:“这代表着我们实验室对于打造一个更加包容、更加美好世界的坚定承诺。”

“人工智能等一切科技文明都是人类集体智慧的结晶,我们需要在科技的发展中寻求更多的公正和平等。听见世界,我们对它的定位是公益项目,”智振董事长讲道:“与此同时,我们会加快眸思大模型的商业化落地进程,尽快惠及更多行业更多用户。我们计划在复旦大学中工互联联合实验室的框架内,加大科研经费的投入,首期计划投入1500万研发经费来加大基础大模型的研究。”

免责声明:市场有风险,选择需谨慎!此文仅供参考,不作买卖依据。

标签:

猜你喜欢

全新启航!全亿健康自有品牌官网正式上线
春节将至如何人闲钱不闲?短债基金助力假期收益“不打烊”
广汽能源与中石油昆仑网电签订合作框架协议
哈银消费金融:创新探索金融服务模式,护航人民美好生活
2023年度金屏奖揭晓 森宇股份荣膺“年度优秀运营奖”
广联达建筑业务平台,夯实建筑行业数字化底座
医渡科技发布2024开年业务进展,三大业务表现稳健
IP酒店、企鹅踏雪、冰雕“小冻梨”南下,海昌海洋公园借冰雪之势赢流量 
硬核“黑科技”加持,361度以科技创新实力打通品牌跃升路 
龙腾盛世 博创未来 博众投资2024新春年会盛典圆满举办
2023进口跨境电商年度报告发布,天猫国际、京东、抖音位列前三
“湾区连晋”直播商学院在山西省忻州市七个县区正式挂牌成立
好事花生帽、丝袜高脚杯、仿真耳朵耳机壳…为什么这届年轻人偏爱淘宝显眼包
戴德梁行与微软合作 强化人工智能技术平台
兼顾企业效益与自然生态 金徽股份获评“绿水青山就是金山银山”实践创新基地
中达安:控股子公司广东顺水连获嘉奖
科兴制药:白蛋白紫杉醇高质量完成欧盟验厂,海外商业化布局多点开花
“阳曲大健康生物产业技术研究院”正式签约,推动大健康生物产业高质量发展!
仁度生物RNA检测新产品获批上市 将助力2030年丙肝消除计划
《逃出大英博物馆》团队新作《小年兽与捉妖师》2月5日首发抖音
三湘银行-基于麒麟信安打造银行IT信息化系统安全底座
乡村振兴+共同富裕|聪明鱼深度布局智慧农业,智能渔方远景可期
MAXHUB加速全球化战略,布局多元化业务
平安壹钱包获“年度最具竞争力数字金融机构”奖项
打造知识新年 讲真“知识燃新春 金龙送好礼”活动正式开启
淘宝10亿红包2月5日开领:最高1888元,人人可领,无需拉满!
忻州市卫生健康委员会携手华医网举办小儿推拿培训班
美食跨界联动,李锦记携手小米商业营销共同打造年味新滋味
叽里呱啦:深耕儿童内容,荣获多项国际大奖
春运送温暖,国民烘焙大品牌有温度——盼盼食品携手中石化易捷联合开展暖心公益活动