严防生成式AI“深度造假”
其中，有两条内容强调了真实。一则是在第四条“提供生成式人工智能产品或服务应当遵守法律法规的要求，尊重社会公德、公序良俗”中表示，“...
2023-04-19
(资料图)
随着AI的应用越来越广泛，诸多问题开始显现，首当其冲的就是内容真实性。AI作为工具并不具备判断力，其生成的结果是基于数据投喂和算力养成的综合产物，那么，这些数据是否真实合法，直接决定了AI是否能大规模应用。
日前，国家网信办发布《生成式人工智能服务管理办法(征求意见稿)》(以下简称《征求意见稿》)，向社会征求意见。《征求意见稿》明确“国家支持人工智能算法、框架等基础技术的自主创新、推广应用、国际合作，鼓励优先采用安全可信的软件、工具、计算和数据资源”，并就生成式人工智能服务商的准入，算法设计、训练数据选择、模型、内容，以及用户个人隐私、商业秘密等方面提出了相关要求。
其中，有两条内容强调了真实。一则是在第四条“提供生成式人工智能产品或服务应当遵守法律法规的要求，尊重社会公德、公序良俗”中表示，“利用生成式人工智能生成的内容应当真实准确，采取措施防止生成虚假信息”。另一则是在第七条“提供者应当对生成式人工智能产品的预训练数据、优化训练数据来源的合法性负责”中表示，“能够保证数据的真实性、准确性、客观性、多样性”。
这意味着，AIGC的研发平台不但要保证投喂的数据资源真实可靠，同样要对生成的内容负责，这无疑是一项巨大的挑战。
事实上，在全球AI赛道的顶级选手中，还没有任何一个平台对AI生成结果的真实性进行担保。此前，谷歌推出的人工智能聊天机器人巴德(Bard)与ChatGPT对垒，却因巴德犯了事实错误，导致谷歌的股价暴跌，一夜之间市值蒸发约1056亿美元。微软则在一份免责声明中表示：“必应是由人工智能驱动的，因此有可能出现意外和错误。”
对生成式AI研发者而言，确保结果真实的难度之大可想而知。笔者认为，在研发、实验阶段，应该允许AI不断试错、修正、完善，但随着生成式AI作为工具进入生产领域，开始进行搜索、绘画、问答，甚至编程、视频生成等工作，那么确保真实就应该是基础门槛。
换句话说，AI要抢人类的工作，从底层模型起就先要解决是否真实准确的问题。如果这一问题还未有定论，那么研发平台应该审慎向大众层面推出新品，更不应草率地将AI运用于商业环境中。
如今，全球基于AI的创业公司如雨后春笋般涌现，仅在3月份就有近10款AI视频生成器诞生。输入几个关键字就能获得一段文字、一张图片甚至一个视频，这无疑体现了科技的魅力。但部分企业为了追风口就仓促推出新品，导致产品质量良莠不齐，一些产品生成的内容滑稽可笑，更有一些产品生成的内容存在虚假。这类“深度造假”的内容一旦传播开来，极易引发社会信任危机。
在笔者看来，面对新技术，我们既要抓住机会、勇于攀登，也不能回避技术发展带来的各类安全风险和伦理挑战，需构建合理规范的数字规则，做“负责任的”人工智能，立好规矩明确红线，防范潜在风险，推动科技向善。
标签：
其中，有两条内容强调了真实。一则是在第四条“提供生成式人工智能产品或服务应当遵守法律法规的要求，尊重社会公德、公序良俗”中表示，“...
由隐山资本领投，老股东小米科技跟投的数千万元B+轮融资。
经常听说唐宋八大家，学生学习的时候也基本都有学到唐宋八大家，但是久了可能就忘了唐宋八大家是指哪八位了，来看一下吧。
新华社大马士革4月18日电据叙利亚通讯社18日报道，沙特阿拉伯外交大臣费萨尔当天访问叙利亚，叙总统巴沙尔在叙首都大马士革
金融界基金04月19日讯中证银行ETF基金04月18日上涨1 18%，现价1 115元，成交3579 01万元。当前本基金场外净值为1 1167元，环比上个交易日上涨1
4月18日，省住房和城乡建设厅在南京启动传统村落保护宣传活动。据介绍，活动包括组织省内主流媒体，推出以“传统村落江苏行”为主题的全媒...
新湖南客户端4月18日讯（通讯员陶格）“现在走在这条路上，安全感强多了！”4月17日，“暖洋先锋”志愿者——外卖小哥廖
原标题：让劳务品牌成为高质量就业和产业发展“助推器”2022年河北省23个劳务品牌参与全国劳务品牌形象代言人评选，共15
央视新闻客户端消息广西南宁市气象台4月19日4时50分发布雷电橙色预警信号：目前雷雨云团正逐渐靠近南宁市兴宁区、西乡塘区，预计未来3小时，南
重庆市气象台2023年4月19日6时10分发布“大雾黄色预警信号”，预计19日6时至12时，渝北区、北碚区、巴南区、潼南区、永川区、江津区、綦江区、
读特客户端·深圳新闻网2023年4月19日讯（深圳特区报记者戚金城通讯员黄俊生容启新）4月17日是香港与内地恢复通关的第100天。记者昨日从深圳边
4月18日，唐山市丰南区西葛镇的农民在田间使用机械设备育秧（无人机照片）。随着气温逐渐升高，河北省水稻主产区唐山、秦皇岛等地的农民抢抓农
1、选调生就是省委组织部主持的在优秀应届大学毕业生中选拔人才到基层工作，自2000年以来一直采取招考模式，招考对象是大学
1、母系氏族没落伍父系氏族才得以建立，实在晚期的女人拿上菜刀能做菜，跨上战马就可以杀敌。2、武丁的妻子妇好就是其中的佼佼
大众汽车公司周二表示，计划明年在中国投资10亿欧元(10 9亿美元)，建立一个汽车电气化和自动化的研发和采购中心。 德国汽车公司表示，通过
大家好,小乐来为大家解答以上的问题。追女生聊天技巧，怎么追女生方法和技巧这个很多人还不知道,现在让我们一起来看看吧！1、追女孩子的技
腾讯自研芯片“沧海”已经广泛应用到实际环境，并斩获8项世界*。4月15日，莫斯科国立大学举办的MSU硬件视频编码比赛成绩揭晓。经过数月的严...
IT之家4月18日消息，胡润研究院发布《2023全球独角兽榜》，全球独角兽数量达到1361家，比一年前增加303家（29%），美国占全球独角兽总数的49%
证券时报记者贺觉渊4月18日，财政部召开2023年一季度财政收支情况新闻发布会，财政部有关负责人在会上介绍一季度财政
北京时间4月19日（今日），2023年世界乒乓球职业大联盟（WTT）冠军赛中国澳门站进入第3比赛日，将进行4场男女单打首轮和5场男女单打第二轮较量
苹果手机开不了机怎么办，解决办法有哪些很多人还不知道，现在让我们一起来看看吧！解答：1、同时按住电源键、HOME键、音量调低键，强制开机；
【报道】美国福克斯集团旗下网站“TMZ”体育栏目17日报道称，56岁的美国前职业拳击手泰森并没有完全放弃拳击，他告诉“TMZ体育”，如果报价...
新湖南客户端4月18日讯（通讯员方杜）为促进学校教育与家庭教育的协调发展，达到家校携手共同育人的目的，长沙师范学院附属
4月18日北向资金减持9500 0股建龙微纳。近5个交易日中，获北向资金增持的有2天，累计净增持1 41万股。近20个交易日中，获北向资金增持的有10天
科技圆桌派｜高温暴雨一起来，近期天气为何如此多变？全国降水量预报17日以来，四川盆地中部、重庆西南部、贵州东北部、湖北中部、湖南中北部
闽南网4月18日讯（闽南网记者陈玉玲通讯员郭小梅蒋巧玲）4月19日至22日，第二十四届中国（晋江）国际鞋业暨第七
(记者闫晓虹)中国汽车工业协会18日披露，2023年一季度，中国汽车制造业工业增加值同比增长4 4%，高于同期规模以上工业1 4个百分点。单看3月，
智通财经讯，延华智能(002178 SZ)披露2022年年度报告，报告期公司实现营收6 26亿元，同比下降23 39%;
鞋子前面磨脚的方法有：1、涂抹材料在鞋子磨脚位置涂抹常见的材料，如：面霜、白酒、香皂、蜡烛，均匀涂抹于磨脚处，浸润一个晚上，可以起到软
1、吊牌很好做的，加工厂不一定只找这家，海珠区和新塘镇很多这类型的加工厂，只要监工和布匹质量有保障，就能加工出你要的品质
