Sora可能挑战人类社会运行规则?专家:大模型治理应辩证统筹五对关系
资本探秘
2024-06-14 22:23:42
0

近日,美国人工智能研究公司OpenAI发布文生视频大模型Sora,引起全球关注。Sora及其代表的人工智能大模型技术不断颠覆人们认知,显示出科技发展的巨大潜力和无限可能,也引发“饭碗焦虑”“深度伪造”、国家间关于“主权人工智能”竞逐等现实问题,给人类社会的现有运行规则带来深刻挑战。

技术狂飙之下,现有法律框架和治理体系如何跟进?为引导人工智能技术更好地赋能千行百业、为人类福祉服务,大模型治理应辩证统筹以下几对关系。

统筹发展与安全

人工智能是新一轮科技革命和产业变革的重要驱动力,大模型的发展对推动产业优化升级、生产力整体跃升具有关键作用。我国去年印发的《生成式人工智能服务管理暂行办法》指出,“国家坚持发展和安全并重、促进创新和依法治理相结合的原则,采取有效措施鼓励生成式人工智能创新发展”。因此,要认识到大模型之于经济社会发展的作用和价值,以开放包容的心态和科学严谨的方法对待新技术应用。鼓励有条件的主体加强创新研发能力,加大对创新主体的支持,推动算法、数据、算力等各方面资源协同发展。鼓励各行业因时、因势地选择大模型应用场景和建设模式,以持续创造价值和效益。

在助力创新与发展的同时,大模型也存在模型决策不够透明、模型训练过程中对隐私信息保护不足等风险,所以大模型治理必须牢牢兜住安全底线,以高水平安全保障高质量发展。一是构建全方位安全保障体系,结合网络安全体系建设工作要求,加强人工智能内生安全、零信任防护等建设。二是增强数据安全保障能力,建立数据分类分级保护基础制度,健全数据监测预警和应急处置体系。尽可能精准识别生成式人工智能产生的风险,完善从数据到算法再到生成内容的全链路体系规制。三是营造包容审慎的监管环境,根据风险等级、应用场景、影响范围等情境,实施分级、分类、差异化监管。

统筹效率与公平

国家发展改革委、国家数据局印发的《数字经济促进共同富裕实施方案》指出,要通过数字化手段促进解决发展不平衡不充分问题,持续弥合“数字鸿沟”,促进公平与效率更加统一,推进全体人民共享数字时代发展红利。因此,在千行百业中应用大模型,既要帮助各行业创造出更高的效率,实现更高质量的发展,又要更有效地维护社会公平,实现效率与公平相兼顾、相促进、相统一。

一方面,大模型能够以降本增效的方式赋能千行百业,推动产业数字化和数字产业化,在助力高质量发展中实现共同富裕。例如,波士顿公司发布的《公共部门的生成式人工智能应用:从机遇到价值》认为,生成式人工智能可以帮助政府公共部门提高生产力和服务质量,其在国家、州或省以及地方政府中的生产力价值每年可达1.75万亿美元。另一方面,考虑到大模型的“双刃剑”特点,要特别关注技术应用中的公平问题,注意弥合新的“数字鸿沟”。在公共服务或社会治理场景中引用人工智能大模型,必须考虑其合规性问题,确保大模型的有效运用和使用者期望的合理满足。

统筹活力与秩序

要处理好有效市场和有为政府之间的关系,让大模型技术发展实现活而不乱、活跃有序的动态平衡。一方面,更好发挥政府、企业、社会的协同作用,深化各方面体制机制改革,充分释放全社会创造潜能,鼓励科学家、企业家、文艺家等各方面人才特别是青年人才创新、创造。

另一方面,公共部门要加强规范治理,对大模型背后的数据偏见、法律和隐私风险等加强防范,对其生成内容明确责任主体判定、加强可追溯与解释性。目前,一些国家和城市发布了公共部门应用生成式人工智能的临时指南,比如纽约“自动化决策应用指南”、波士顿“生成式AI临时指南”等。这些指南旨在明确大模型可以应用到哪些领域,并对“如何使用”提出了具体要求与提示,包括“禁止用例”“建议用例”“如何提问”以及“注意事项”等。然而,针对具体使用场景,不同国家和城市在“禁止”和“建议”上存在部分冲突,共识规则还有待形成。作为创新主体的企业,要强化社会责任意识,确保大模型的开发和应用符合伦理道德标准和法律法规,积极参与构建安全、可信、可持续的大模型时代。

统筹顶层设计与实践探索

要处理好“自上而下”和“自下而上”之间的关系。大模型治理既需要来自顶层设计的统一规划和整体布局,坚持“一张蓝图绘到底”,也需要汲取地方实践的养分,以“实践反哺理论”,两者相辅相成、缺一不可。没有顶层设计的系统部署和方向指引,大模型发展既可能因为难以协调各方关系而停滞不前,也可能因为各自为战形成新的“技术孤岛”;反过来,没有基层实践的积极探索与大胆创新,缺少来自实践前沿的经验和知识,顶层设计会成为无根之木、无源之水。

一方面,大模型治理要立足数字中国建设的时代背景,从经济社会治理数字化转型的全局出发,进行前瞻性、全局性布局,避免政策不配套、行动不同步、业务不联动、数据不互通、系统不兼容、安全不保障等问题。另一方面,各地区、各行业、各部门要结合具体情况开拓创新,特别是在前沿领域鼓励大胆探索、敢为人先,寻求有效解决新矛盾、新问题的新办法。当前,我国数字化转型已经进入“深水区”,大模型技术提供了新方向和新动力。要更好发挥各主体的能动性和首创精神,通过试点先行、创新大赛、揭榜挂帅、容错机制等撬动积极性,形成“试验—认可—推广”的创新路径,实现“以小见大、以点带面”的创新扩散。

统筹自立自强与对外开放

要处理好对内和对外之间的关系。一方面,立足国情谋划人工智能大模型发展,特别是要看到我国具有的超大规模市场、海量数据资源、丰富应用场景等多重优势。加快实现高水平科技自立自强,加强原创性、引领性科技攻关,坚决打赢关键核心技术攻坚战。提高大模型自主研发、管理能力,开发适合我国数字化转型的大模型应用。充分利用国家资金与社会资源,引导科研院所、高校等社会各界投身大模型相关的技术研发,提高成果转化率。此外,要警惕其他国家对我国生成式人工智能的技术封锁,加快生成式人工智能平台的自主研发及其在各行各业中的应用。另一方面,要坚持胸怀天下,拓展世界眼光,既紧跟世界数字技术发展的最新成果,又要以中国新发展给世界带来新机遇。要在持续追踪全球人工智能发展进展的同时,吸收他国技术应用的经验和教训。

(作者单位:中共上海市委党校)

发布于:上海市声明:该文观点仅代表作者本人,搜狐号系信息发布平台,搜狐仅提供信息存储空间服务。

相关内容

金盘科技荣跻武汉市2023...
  近日,武汉市经济和信息化局公布了2023年工业智能化改造示范项...
2024-06-20 00:10:55
闲聊国产摩托车品质排名,豪...
我是骑士分享。上期文章我们讨论了2024年选择摩托车时应该注意的方...
2024-06-20 00:10:42
菲律宾长滩飞上海航班备降香...
2月19日晚,多名乘客反映由菲律宾长滩岛直飞上海的菲律宾皇家航空航...
2024-06-19 00:31:32
乌鲁木齐友善医院男科
目前,许多男性患有男性疾病,男性疾病的原因很多。此外,由于当今社会...
2024-06-17 22:36:27
Sora可能挑战人类社会运...
近日,美国人工智能研究公司OpenAI发布文生视频大模型Sora,...
2024-06-14 22:23:42
品味舌尖上的岭南文化!“阅...
1月27日,“阅见月月见”系列活动之“阅见美食·品舌尖里的岭南文化...
2024-06-14 22:23:41

热门资讯

“老碗会”在东莞被爆羊肉烧麦致... 3月11日,南都记者留意到,有网友在东莞阳光网发帖称“因食用生肉导致腹泻,要求商家依法赔偿且赔礼道歉...
华软科技:目前不涉及海洋防污涂...   华软科技2月8日在互动平台表示,公司正在推进的是海洋防污剂产品,属于中间体产品,是海洋防污涂料的...
Truist Securiti... Truist Securities:维持WR Berkley(WRB.US)评级,由买入调整至买入评...
无专业医生无真实处方 谁在网上...   5月11日是世界防治肥胖日。在如何减重这件事上,近两年最火的莫过于司美格鲁肽、利拉鲁肽、贝那鲁肽...
2024年首例!ST新海重大违...   炒股就看金麒麟分析师研报,权威,专业,及时,全面,助您挖掘潜力主题机会!   2024年首例!...
最新传闻:下一代iPhone ... 最新传闻:下一代iPhone SE将采用灵动岛设计?下一代iPhone SE可能会有一个垂直的后置摄...
格力电器获得发明专利授权:“送... 证券之星消息,根据企查查数据显示格力电器(000651)新获得一项发明专利授权,专利名为“送风设备”...
卡尔森采访普京,关于中美俄大三... 2月6日,俄罗斯总统普京接受了美国知名媒体人塔克·卡尔森(Tucker Carlson)的专访。2月...
预估今年出货百万台!苹果头显未...   尽管苹果首款头显Vision Pro没有亮相CES(国际消费电子展),但CES展台上的参展厂商倒...
贝壳-W(02423HK)将于... 格隆汇3月4日丨贝壳-W(02423.HK)公告,董事会兹通告谨定于2024年3月14日(星期四)举...