人工智能可在元宇宙中构建新世界，但也引发重大的伦理问题
发布时间：2026-5-26 17:00
发布者：eechina
|
IEEE 好文分享 人工智能的飞速发展，为元宇宙以及增强现实、虚拟现实等主流数字增强技术开辟了更多发展可能。但在这类技术全面融入日常生活之前，二者融合所衍生的法律与伦理难题亟待解决（https://standards.ieee.org/initiatives/metaverse-standards/）。 拓展数字环境应用能力 如今，多模态大语言模型仅凭一段文字指令就能生成视频，将这项技术应用于沉浸式三维虚拟环境，已然近在眼前。 IEEE高级会员Vaibhav Tupe表示：“生成式人工智能很快或将重塑增强现实技术，使其不再只是一种显示设备，而是升级为融入现实世界、具备智能交互能力的辅助工具。” 但这些沉浸式、多元化的技术能力，也催生了诸多棘手难题。依托人工智能打造的虚拟助手与虚拟网红，可能会引导用户做出原本不会选择的决定，倘若这类系统的设计初衷是刻意游说、而非单纯提供信息，这种影响会更为明显。沉浸式场景还会采集大量高度敏感的个人数据，包括用户视线落点、行为动作、行为反应，甚至能够推算出用户的情绪状态。此外，倘若构建这类虚拟场景的人工智能系统本身存在偏见，这些偏见还会进一步影响人们在增强现实、虚拟现实环境中的形象呈现、外界观感以及所受到的对待。 IEEE高级会员Shaila Rana表示：必须在这类技术全面普及之前，搭建完善的法律与伦理规范体系。 消除技术偏见 人工智能偏见长期以来都是研发人员面临的难题。若使用本身带有偏见的数据训练AI，最终产出的结果势必会出现偏差、失去客观性。 Rana表示：“人工智能沉浸式环境中，最容易被忽视的风险就是偏见被不断放大。人们阅读带有偏见的文字内容时，自身与信息之间还存在认知隔阂。但置身虚拟现实或增强现实场景中，偏见不再只是影响你的认知判断，更会在高度拟真的环境里，直接左右你的所见、所闻与切身感受。” 隐私与数据安全管控 人们在使用人工智能与虚拟现实技术时，会向各类系统提交海量个人数据。 IEEE会员Man Zhang表示：“生成式AI还能进一步分析并利用这些数据，进而引导用户行为，打造极具个性化且带有诱导性的体验，由此催生了传统数据保护法规无法覆盖的新型隐私风险。” 此外，相关法律体系尚且零散混乱。IEEE高级会员Keeley Crockett指出，头戴设备硬件与配套运营软件往往分属不同运营主体，各方隐私条款、权责义务各不相同，致使数据管理秩序杂乱无章。 基于生物特征的环境影响 最隐蔽的隐患之一是生物特征适配技术。沉浸式系统中的人工智能，可依据用户视线、体态、心率及情绪状态调整环境。 IEEE高级会员Eleanor Watson表示：“人工智能构建周边场景时，会在用户难以察觉的情况下，潜移默化影响其情绪、专注力与决策。这和网页调整页面布局有着本质区别。” 这类情况容易在商场等场景中造成认知操控与行为诱导。 IEEE高级会员Ayesha Iqbal补充道：“人工智能能够根据用户细微反应实时调整环境，进而实现神经定向说服。比如在用户注意力高度集中时，切换广告内容与虚拟形象。” 她还表示：“现行隐私法规仅针对可识别个人信息，并未约束这种用于引导行为的实时生理心理推断技术。” 打造负责任的未来 人工智能与元宇宙蕴藏着广阔的数字发展前景，同时也要求我们主动开展治理工作。如今搭建完善的伦理准则体系，才能让数字领域依托透明化机制与有效监管稳步发展。 拓展阅读：想要深入了解元宇宙相关伦理与法律问题，可查阅电气和电子工程师协会计算机学会的相关文章（https://www.computer.org/csdl/jo ... 0857306/23VC5BoKUik）。 |
网友评论