彼时，人工智能留给人们的印象还停留在科幻电影中的智能机器人、智能生活助手等。

说实话，离我们最近的可能就是手机里不太智能的语音助手了。

语音助手会对每句话做出回应，但回应是否正确则是另一回事。你说得对吗，西里？

但现在不同了。大家都看到了近年来人工智能发展的速度有多快，人工智能元年已经到来。

在图片、视频、音频、文本领域，AI已经取得了巨大的成就，甚至可以说是“颠覆性的”。

以应用最广泛的图像AI为例。事实上，它在我们的日常生活中随处可见。

户外广告牌、电梯里的海报、商场里的宣传图片……你觉得是这样吗？

不仅如此，不少APP还加入了图像AI功能，但随之而来的却是争议。

苹果、谷歌相继下架相关应用，国内手机厂商也禁止其运营。到底是怎么回事？

苹果谷歌下架脱衣AI APP

目前AI在图像方面的应用大致分为以下几类：AI图像生成、图像扩展、消除、图像质量恢复等。

这些都是正常的内容，但一些别有用心的人却以此为基础开发了一些恶意应用程序。

就在上周五，外媒404 Media报道称，苹果和谷歌分别从其应用商店下架了多款声称能够“一键换衣服”的应用。

“一键换衣服”听起来有些离谱，但实际上，这玩意儿算得上是“一键换脸”的升级版。

图片来源：404媒体

早在2019年，就有程序员开发了一款名为“DeepNude”的“一键脱衣”APP。

开发者声称，通过给DeepNude 一张女性照片，它可以利用神经网络技术脱掉角色的衣服，生成一张不穿衣服的图片。

好家伙，如果这个APP落到了歪人手里，那岂不是妥妥的不雅照生成器了？

最终的结果是，为了防止DeepNude被滥用，开发者最终选择关闭DeepNude的网站和APP。

来源：IT之家

如果DeepNude只是独立开发者的小小努力，那么现在苹果和谷歌应用商店上架的“一键脱衣”APP又是如何通过审核的呢？

据报道，这些应用程序很多都来自Meta平台的广告库，这些恶意应用程序的广告一般都会放置在Meta平台上。

一旦用户点击广告，他就会被重定向到苹果或谷歌的应用商店。换句话说，用户不需要搜索“脱衣”等关键词就能找到类似的应用。

而且，这类AI APP通常会被封装到其他AI生成的APP中。开发者很可能使用这种方法来避开苹果和谷歌应用商店的审核机制。

APP开发者费了这么大劲，肯定不是用爱心发电，而是通过“一键脱衣”功能获取不义之财。

好在，经过外媒报道，苹果和谷歌也采取了实际行动，下架了多款“一键脱衣”应用。

Meta平台也在积极收集和删除恶意广告链接。并表示将加大审核力度，对违规政策采取措施。

来源：indianexpress.com

AI消除敏感图片被禁

除了上述之外，小雷发现国内手机厂商对于“AI淘汰”也做出了一些限制。

如果我没记错的话，手机有“AI消除”功能，大概是去年才开始流行的。

AI消除可以利用AI技术完美去除照片中多余的人和物体，让照片看起来更简单。

左为AI淘汰前右为AI淘汰后来源：小雷手机截图

只是不知道哪位大神突然想到用AI消除来消除女性照片的乳房。

咳咳，原来有些手机的AI消除功能可以消除衣服，甚至可以修复人体。

AI原本是根据边缘背景进行计算的，修补后的效果看起来非常和谐。你不能因为它不工作而责怪它。

再说一遍，如果有人有恶意，这个功能确实可以生成一些不存在的不雅照片。

来源：互联网

这件事当时引起了很多关注，但经过媒体报道，主流品牌手机都对AI淘汰做出了限制。

现在使用AI消除照片中的人体敏感部位时，会出现类似“该图片可能包含敏感信息，无法使用该功能”的提示。

来源：小雷手机截图

AI图片是把双刃剑

苹果、谷歌下架“一键脱衣”APP，手机厂商禁止AI擦除敏感照片。 AI图片已经发展到这个程度了。

事实上，从AI在图片方面的实际应用来看，它更像是一把双刃剑，带来便利的同时也带来了一些麻烦。

AI拍照也存在很多烦恼：一键换脸、一键脱衣服、一键凭空添加人体细节……AI在人类隐私和安全方面还存在很多漏洞，被不法分子利用。

虽然每次类似的新闻被曝光，相关企业或平台都能及时行动，采取下架或封禁产品的措施，但总是要等到事件发生后才能做出弥补，往往会出问题。

AI图片应用之路才刚刚开始。小雷觉得，之前的这些案例足以给AI开发者敲响警钟。

在开发更多人工智能新功能时，人工智能开发者应提前考虑新功能实现后可能产生的负面操作和影响。

自然最好先解决问题再实施。如果不能推迟实施或者可以用更合理的方法达到原方法80%的效果，也不是不可能。

封面图片来源：Apple App Store Network

4月25日至5月4日，北京国际汽车展览会（北京车展）正如火如荼地进行。本届车展以“新时代新车”为主题，是“汽车从电动化走向智能化”的风向标。