2023年是世界互联网大会乌镇峰会第十年,全球科技行业的热词,非人工智能莫属。由ChatGPT带动的生成式人工智能、大模型热潮,引起学界广泛的关注和讨论。
有学者指出,从医疗健康到交通运输,从金融领域到农业生产,人工智能正引领着各个领域的变革。然而,我们也需要认识到人工智能应用所带来的挑战和风险。在推动人工智能技术发展的同时,我们必须确保其应用符合法律法规和伦理原则,避免潜在的负面影响。
有学者认为,生成式人工智能的广泛运用会强化目前已经显现的各种社会伦理问题,带来偏见和歧视。如果用于开发人工智能算法和模型的训练数据有偏见,算法和模型也会有偏见,从而导致生成式人工智能的回应和建议出现歧视性的结果。还有如信息误导、信息滥用以及对个人自主性的干预,如生成式人工智能在商业上可能被用来影响或操纵用户的行为和决策。
有学者从法律方面分析认为,人工智能的发展所产生的最大挑战就是引发侵权风险。与传统的侵权行为不同的是,ChatGPT引发的侵权行为,主要是侵害人格权和著作权。如生成式AI可能引发大规模隐私或者个人信息泄露问题。不法行为人有可能通过攻击大规模语言模型,提取出训练数据中的核心隐私和敏感个人信息,从而导致个人信息、隐私的大规模泄露,形成“大规模微型侵害”的现象。
还有学者认为,生成式人工智能的普及应用将对重复性、模板化的工作岗位带来冲击,催生大量“无用阶层”,导致社会阶层固化,将造成更为严重的社会及政治不平等。与人类历史上的其他任何时期相比,这种信息技术有可能造成更大的收入差距。应高度重视科学技术对经济社会的影响,及早做好技术创新和迭代发展的公共政策、社会政策储备工作。
还有学者认为,随着人工智能在国家竞争力、国家安全等方面的作用凸显,各国都在加紧相关规划部署和政策制定,人工智能已经成为国际竞争新的焦点所在。大模型对算力的巨大消耗也对低碳转型目标的实现带来新的挑战,这些新的问题成为各国政府关注的新课题。