教育房产时事环球科技商业
投稿投诉
商业财经
热点动态
科技数码
软件应用
国际环球
晨报科学
新闻时事
信息智能
汽车房产
办公手机
教育体育
生活生物

游戏显示人机协作的黑暗面Latitude采取行动

  据外媒WIRED报道,2019年12月,犹他州创业公司Latitude推出了一款名为《AI Dungeon》的先锋网络游戏,展示了一种新的人机协作形式。  该公司利用人工智能公司OpenAI的文本生成技术,创造了一个由《龙与地下城》启发的自选冒险游戏。当玩家打出他们希望自己的角色执行的动作或对话时,算法将为他们的个性化、不可预测的冒险制作下一阶段的内容。
  去年夏天,OpenAI让Latitude提前接触到了其技术的更强大的商业版本。在营销材料中,OpenAI将《AI Dungeon》作为编写算法的商业和创意潜力的一个例子来吹捧。
  上个月,OpenAI表示,它发现《AI Dungeon》也显示了人类与AI合作的“黑暗面”。一个新的监控系统显示,一些玩家输入的词语导致游戏产生了涉及儿童的性爱故事。OpenAI要求Latitude立即采取行动。OpenAI首席执行官Sam Altman在一份声明中说:“在某些情况下,内容审核的决定是困难的,但这一次不是。这不是我们任何人想要的人工智能的未来。”
  上周,Latitude开启了一个新的审核系统,并在其用户中引发了反感。一些人抱怨它过于敏感,他们不能在不触发警告信息的情况下提及一台“已使用8年的笔记本电脑”。另一些人说,该公司计划手动审查被标记的内容,这将不必要地窥探私密的、虚构的创作,这些创作是色情的,但只涉及成年人--这是AI Dungeon的流行使用案例。
  简而言之,Latitude试图将人和算法结合起来,对由人和算法产生的内容进行监管,结果变成了一团糟。在Twitter和AI Dungeon的官方Reddit和Discord社区,愤怒的模因和关于取消订阅的说法纷至沓来。
  “社区感到被背叛了,Latitude会扫描并手动访问和阅读私人虚构的文学内容,”一位AI Dungeon的玩家说,他的名字叫Mimi,并声称在AI的帮助下,估计总共写了超过100万字,包括诗歌、暮光之城的模仿和情色冒险。Mimi和其他不高兴的用户说,他们理解该公司对公开可见的内容进行监管的愿望,但他们说该公司做得太过分了,毁掉了一个强大的创造性游戏场所。Mimi说:"它使我能够探索我心理的某些方面,而我从未意识到这些方面的存在。
  Latitude发言人说,其过滤系统和可接受内容的政策都在不断完善。工作人员以前曾禁止那些他们得知利用AI Dungeon产生以儿童为主角的性内容的玩家。但在OpenAI最近的警告之后,该公司正在进行 “必要的改变”,该发言人说。Latitude公司上周在一篇博客文章中承诺,AI Dungeon将 “继续支持其他NSFW内容,包括双方同意的成人内容、暴力和亵渎”。
  阻止人工智能系统创建某些类型的性或成人内容,同时允许其他内容,将是困难的。像OpenAI这样的技术可以生成许多不同风格的文本,因为它是使用机器学习算法构建的,这些算法已经消化了从网络上获取的数十亿字中的语言使用统计模式,包括不适合未成年人的部分。该软件能够进行惊人的模仿,但并不像人们那样理解社会、法律或流派类别。
  OpenAI在2019年年底将其文本生成技术作为开源技术发布,但在去年将一个大幅升级的版本,即GPT-3,变成了一项商业服务。像Latitude这样的客户付费输入文字串,并得到系统对后面应该有什么文字的最佳猜测。在被授予早期访问权的程序员分享了由该技术产生的令人印象深刻的流畅笑话、十四行诗和代码之后,这项服务引起了科技行业的注意。
  OpenAI表示,这项服务将赋予企业和初创企业权力,并授予OpenAI的大额支持者 微软 对基础算法的独家授权。WIRED和一些尝试过该系统的程序员和人工智能研究人员表明,它也可以生成不受欢迎的文本,如反犹太主义的评论和极端主义的宣传。OpenAI表示,它将仔细审查客户以剔除不良行为者,并要求大多数客户--但不是Latitude--使用人工智能供应商创建的过滤器来阻止亵渎、仇恨言论或性内容。
  在风口浪尖之外,AI Dungeon为OpenAI的文本生成技术提供了相对不受约束的机会。在2019年12月,也就是使用OpenAI技术的早期开源版本推出游戏的那个月,它赢得了10万名玩家。一些人很快发现并开始珍惜它对性内容的流畅性。其他人则抱怨人工智能会不由自主地提出性主题。
  Latitude联合创始人Nick Walton在游戏的官方Reddit社区上承认了这个问题。他说有几个玩家给他发了一些例子,让他们 "感到非常不舒服",并补充说该公司正在研究过滤技术。从游戏的最初几个月开始,玩家们也注意到了,并且在网上发帖标明,游戏有时会把儿童写进性爱场景中。
  AI Dungeon的官方Reddit和Discord社区增加了专门的频道来讨论游戏中产生的成人内容。Latitude增加了一个可选的 "安全模式",可以过滤掉来自人工智能的某些词汇的建议。然而,像所有自动过滤器一样,它并不完美。一些玩家注意到,所谓的安全设置改善了文本生成器的色情写作,因为它使用了更多的比喻和委婉语。该公司还增加了一个高级订阅层以创造收入。
  2020年7月,当AI Dungeon加入OpenAI更强大的商业写作算法时,写作变得更加令人印象深刻。"一位资深玩家说:"创造力和讲故事的能力的纯粹跳跃是天堂般的。这个人说,该系统在探索性爱主题的能力方面也明显更有创造力。去年有一段时间,玩家注意到Latitude在试验一个过滤器,它可以自动将出现的 "强奸 "一词替换为 "尊重",但这个功能被放弃了。
  这位资深玩家是人工智能地牢的爱好者之一,他们将游戏作为人工智能增强的写作工具来探索成人主题,包括在一个专门的写作小组中。算法中不需要的建议可以从故事中删除,以引导它向不同的方向发展;结果不会公开发布,除非有人选择分享它们。
  Latitude公司拒绝分享关于有多少冒险包含性内容的数字。OpenAI的网站说,AI Dungeon每天吸引了超过2万名玩家。
  一名AI Dungeon玩家上周发布了一个安全漏洞,该漏洞使游戏中产生的每一个故事都可以被公开访问,他说他在4月份的四天里下载了几十万个创建的冒险内容。他分析了其中18.8万个样本,发现31%的样本含有暗示它们是性爱的文字。这一分析和安全漏洞(现已修复)增加了一些玩家对Latitude公司新的内容管理方法的愤怒。
  Latitude现在面临的挑战是如何赢回用户的信任,同时满足OpenAI对其文本生成器进行更严格控制的要求。OpenAI的一位发言人说,这家初创公司现在必须使用OpenAI的过滤技术。
  如何负责任地部署摄取了大量互联网文本的人工智能系统,包括一些不光彩的部分,已经成为人工智能研究中的一个热门话题。在经理们反对一篇主张谨慎使用此类技术的论文后,两位知名的谷歌研究人员被迫离开了公司。
  该技术可以在非常有限的情况下使用,例如在谷歌搜索中,它可以帮助解析长篇查询的含义。OpenAI帮助AI Dungeon推出了一个令人印象深刻但又充满问题的应用程序,让人们提示该技术或多或少地解开它所能做的事情。
  华盛顿大学的研究人员Suchin Gururangan说:“真的很难知道这些模型会有什么表现。”他与华盛顿大学和艾伦人工智能研究所的研究人员一起参与了一项研究和互动式在线演示,显示当从网络上借来的文本被用来提示五种不同的语言生成模型时,包括来自OpenAI的模型,都能够喷出有毒文本。
  Gururangan现在是许多试图找出如何对人工智能语言系统进行更多控制的研究人员之一,包括对他们学习的内容更加谨慎。OpenAI和Latitude表示,他们也在研究这个问题,同时也试图从该技术中赚钱。
  【来源:cnBeta.COM】

英伟达为自动驾驶汽车行业推出了一款地图产品英伟达创始人兼CEO黄仁勋于当地时间周二在该公司的GTC活动上说,其公司已经推出了一个全新的地图平台,等到2024年它将为自动驾驶汽车行业提供覆盖北美欧洲和亚洲超30万英里道路的地官网自曝vivoXNote新机7英寸2KE5大屏早前有爆料称,vivo将放弃NEX系列,转而为X系列让路。而随着vivoXNote在官网商城的自曝,其设计也终于得到了证实。WayLab在微博上分享了网友投稿,可知该机提供了ldqAppleWatchSeries3于2017年9月发布,其年龄接近5岁。是支持最新版本watchOS8的最老设备,但其S3芯片在性能上明显落后于AppleWatchSE的S5芯片和微软面向Chrome推新扩展提供私人的匿名的Bing搜索微软近日面向Chrome浏览器推出了全新的扩展程序MicrosoftBingInPrivate,在不尝试将数据传输给微软账号或者设备的情况下运行私人的匿名的Bing搜索。正如你所期谁是开发自动驾驶汽车最值得信赖的品牌?研究称是特斯拉在开发全自动驾驶汽车方面,司机们最信任哪些公司?汽车咨询和市场研究公司AutoPacific最近发表的一项研究可以回答这个问题。据悉,AutoPacific调查了600多名年龄在1高通旗舰芯骁龙888下放中端!OPPO新机曝光今天,数码闲聊站曝光了OPPO一款神秘新机的参数,该机定位中端,但是搭载了高通旗舰处理器骁龙888,同时采用了6。62英寸FHDE4OLED屏幕,电池容量为5000mAh,支持80会议神器!微软发布SurfaceHub2智能摄像头3月16日消息,微软发布了SurfaceHub2智能摄像头,售价为799。99美元(约合5105元人民币)。这款摄像头有1200万像素,拥有136度广视野镜头,焦段为0。4m8m,强迫症不能忍Win11最新版再推不兼容桌面水印微软的Win11系统对硬件兼容性的要求比之前的Win10高不少,特别是TPM方面的限制很烦,不少人都是通过别的手段强制升级到Win11的,然而微软前不久开始给这些设备打上桌面水印,微软回应Win11文件管理器广告问题只是测试近日,微软被曝出在Win11Build22572测试版的文件管理器中,加入了广告信息。今天,微软的高级项目经理BrandonLeBlanc对这一情况做出了回应,称这只是一个实验性质开始菜单经典文件夹功能回归!Win11发布Build22579版本今天,微软为Win11发布了Build22579预览版,在该版本中,Win10开始菜单的文件夹功能终于回归。在新版本中,用户能够将开始菜单中为图标拖动,并放置到同一个文件夹中,且文微软主机游戏神技DirectStorage下放Win11SSD性能百倍提升在微软的新一代主机XboxSeriesX及XboxSeriesS(简称XSXXSS)上,微软推出了DirectStorage功能,可以加快游戏存储性能,现在DirectStorag
2021Q1十大晶圆厂产值227。5亿美元,创历史新高据市场调研机构集邦科技统计,2021年第一季度,全球TOP10晶圆代工厂产值达227。5亿美元,环比增长1,再创历史新高。其中,台积电一季度营收129亿美元,环比增长2,市场份额5全球首发骁龙778G!荣耀50系列定档6月16日见期盼已久的荣耀新一代数字系列旗舰终于要来了。今日,荣耀手机官方正式宣布,荣耀50系列将于6月16日在上海发布。本次,荣耀50系列号称ldquoVlog影像至美之作rdquo,不难猜锐龙5000越来越便宜6核锐龙55600X跌破建议价前不久AMDCEO苏姿丰承认由于专注高端处理器市场,他们的低端处理器存在缺货涨价的问题。好在DIY玩家现在主要的选择还是锐龙5000系列,随着供应的不断改善,锐龙5000系列越来越华硕魔霸G15笔记本海外曝光搭载RX6000M系列显卡目前绝大多数游戏笔记本均搭载英伟达RTX系列显卡,在售的独立显卡中也是N卡占大多数。根据外媒videocardz消息,搭载AMDRX6000M系列显卡的华硕魔霸G15系列笔记本近日GPUZ2。40。0发布支持3080Ti3070TiRTX30LHRTechPowerUpGPUZ刚刚发布了最新的2。40。0正式版,最大变化就是新增了对NVIDIA五款重磅新卡的支持,包括即将发布的RTX3080TiRTX3070Ti,以及正在出苹果iPhone销量下降锐龙产能提升苹果的iPhone手机卖得好不好,不仅果粉很关心,AMD也非常关注这个问题mdashmdash别笑,这是真的,因为苹果需求高了,AMD的产能就保证不了,台积电会优先满足苹果的订单,苹果发布macOS11。4正式版终于支持6900XT等今天iOSiPadOS14。6正式发布,一同到来的还有macOSBigSur11。4正式版,而它除了修复不少Bug外,也带来了新的功能。按照苹果的说法,macOS11。4加入了对基或受芯片影响本田中国5月环比下跌13。4日前,有媒体从本田中国获悉,其5月在华终端销量为128713辆,同比下滑4。1,环比4月下滑13。4。15月,在华累计销量达668367辆,同比增长42。3。具体到两家合资公司来看连续4年销量第一!本田牌飞机上新提到本田,相信很多人的第一印象会是发动机,但是你知道吗?本田不仅造车还造飞机,并且还连续4年拿了个销量第一。这不,旗下的HondaJetElite机型刚刚进行了升级。5月27日,我狮标没了!荣威鲸将上市轴距超吉利星越6月18日消息,据媒体报道,在上海车展首发的上汽荣威鲸有望于9月上市发售。作为荣威全新系列的首款车型,该车定位于轿跑SUV,拥有荣威家族最新的LOGO以及外观内饰设计,同时它也是荣连当4年国产车销冠!吉利汽车5月销量出炉每月月初都是各家车企公布上月ldquo成绩单rdquo的日子,月初第一天就公布的车企,销量普遍喜人。至于公布时间较晚的车企,往往也都是喜忧参半。日前,吉利汽车公布了五月份销量情况,