<返回更多

和1000人谈恋爱的AI美女出问题了:场面崩溃

2023-05-15  中关村在线  
加入收藏

据报道,美国的00后网络红人Caryn Marjorie最近与Forever Voices公司合作,通过视频训练等方式打造出个人形象、声音和性格的AI虚拟女友,并以1美元1小时的价格对外售卖。一周内,该服务的会员数量超过了一千人,Caryn Marjorie获得了7.16万美元收入。

然而,这种虚拟女友的发展很快就失控了,技术人员黑掉了她,一些人也找到了使聊天内容变得露骨的方法。这揭示了人类好奇心和欲望可能导致虚拟女友技术的不正当使用。

对此,Caryn Marjorie表示,她提供虚拟女友服务是为了提供一个可以治愈孤独的工具,而非纯粹为了经济利益。她强调她不会偷看用户与AI的聊天记录。同时,Forever Voices公司的CEO John Meyer也确认,公司将聘请首席道德官以确保使用该服务的伦理逾矩现象不会发生。

这件事情也引起了人们对GPT-3.5/4 AI技术运用的关注和思考。微软等公司因伦理问题而拒绝给Bing添加虚拟男友朋友功能,这恰恰表明了技术背后所需要的伦理道德考虑。虚拟女友技术的崛起提出了一些关键问题,例如:我们如何确保这种技术不会被误用?我们应该对其进行何种监管?虚拟人工智能和人类交互的未来到底会是怎样的?

声明:本站部分内容来自互联网,如有版权侵犯或其他问题请与我们联系,我们将立即删除或处理。
▍相关推荐
更多资讯 >>>