吉林快三分析团队

欢迎关注“创事记”微信订阅号：sinachuangshiji

韩国游戏巨头研究头像AI卡通化，终于实现了翻译的“信达雅”。

文/光谱

来源：硅星人（ID:guixingren123）

年轻一代人当中，很多都是ACG（动画、漫画和游戏）死忠。在社交网络上，经常会看到动漫角色的头像，因为对于这部分用户来说，共同的爱好是他们鉴别彼此、增进交流的一种有效方式。

然而有两个小问题：首先，热门动漫作品就那么几部，撞头像的事故经常发生。以及，甭管账户的主人是什么性别，头像一水都是可爱女生，时间长了毫无辨识度了。每次上网看帖，就像围观一帮动漫角色在互相留言点赞……

我们都知道，最近几年基于神经网络的AI发展的很快，其中有一种技术叫做风格迁移(styletransfer)，简单来说就是让图片A获得图片B的风格，但仍然具有明显的A的特征。

有了这项技术之后，ACG爱好者也可以让自己的头像具有动漫风格了。只是效果仍然不是很令人满意，看起来像是用画笔和颜色对人脸照片描边而已：

这种风格迁移其实有点违背初衷：很多人用动漫头像是为了可爱，可是最终输出看起来一点都不可爱。

然而ACG爱好者是不会停止脚步的！

一群韩国的AI研究者最近发布了一篇论文，展示了他们在图片到图片翻译(image-to-Image Translation)上取得的重要进展。

他们实现的效果，看起来更像是找了一位漫画家，对着原始照片认真地再创作，效果超过了所有现存的头像卡通化技术：

用红框标出的分别为原图 (a)和输出结果(e)，输出的头像不但风格更加接近我们经常在动漫当中看到的形象，和原图的可识别度也很高。

在非监督学习的方法和生成对抗网络（简称GAN）的架构基础上，研究者加入了全新的注意力模块，并发明了一种名为“自适应层-实例归一化” (Ada LIN) 的归一化机制，开发出一种全新的神经网络。

这一研究被命名为 U-GAT-IT: Unsupervised Generative Attentional Networks with Adaptive Layer-Instance Normalization for Image-to-Image Translation [1].

正是因为研究者设计的全新的注意力和归一化机制，我们可以从输出结果中看到，这个神经网络对于不同特征进行了不同的处理。

该放大的特征，比如眼睛，被放大了；该缩小的特征，比如鼻子、嘴巴，也得到了缩小；至于其它特征，比如发型、发色、肤色，甚至包括面部阴影，也有相当准确的还原。

下图分别展示了这个生成对抗网络的生成器和判别器的架构：

研究者指出，之前的图像风格迁移结果，之所以看起来像描边，是必须把原图的线条背景映射到输出结果上；而他们开发的注意力和归一化机制，能够对原图和目标风格图进行注意力绘制，然后引导模型对不同的区域和特征进行不同的重构。

也就是说，这个新的模型能够理解，动漫头像必须有大眼睛、更具线条感的头发，以及更鲜亮的发色和瞳色。它会按照这些（从输入的参考头像中取得的）原则去进行翻译。

研究者在论文中提到，他们的这个模型在简单的风格迁移基础上，已经上了一个新的台阶，有了变形的能力(objecttransfiguration)。

他们发明的自适应层-实例归一机制Ada LIN，还有一些其它优势，比如可调节性，研究者可以对层 (Layer)和实例(Instance)分别进行调整，从而在输出中实现不同程度的形状和材质变化。

下图中可以看到，从横排第三到第六，是对归一机制进行调整所得到的不同结果：

在文字翻译中，输出的结果要符合对象语言的语法、使用习惯等等。在图片翻译(image-to-Image Translation)中其实也是一样。你可以这样理解：之前的风格迁移，都只是在做“字面翻译”，而U-GAT-IT在“信达雅”上实现了突破。

该技术的另一厉害之处，是可以对几乎任何类型的照片（动物、宠物脸部、风景）进行准确的图片翻译，而且不需要对神经网络的参数进行任何调整：

论文的第一作者为Junho Kim：

值得提及的是，包括Kim在内的三名作者均来自人称游戏界“高丽双雄”之一的韩国游戏公司NCsoft；另一作者来自波音韩国工程科技中心。

NCsoft开发的老牌网游《天堂》(Lineage1& 2) 于1998年上线，已经在包括中国在内的多国连续运营21年，还有《永恒之塔》等几款知名游戏。但少有人知的是，实际上NCsoft也是韩国在人工智能研发方面最激进的公司之一。

据《韩国时报报道》，NCsoft在2011年就已设立了专门研发团队，目前运营着人工智能中心、自然语言处理中心两个独立的研究机构。前者负责游戏AI、语音识别和计算机视觉，后者主攻语言理解和知识系统。

NCsoft人工智能中心、自然语言处理中心负责人在该公司举办的活动上

两个中心的负责人直接向公司创始人兼CEO金泽辰直接管理，员工总数约为160人，今年内将增员到300人左右。

NCsoft投入深度学习的主要目的，是在游戏和服务中引入相关技术。目前，该公司正在使用AI检测外挂，以及基于玩家的游戏习惯和兴趣数据进行服务定制化。

而本文所提到的这项技术，将能够极大改善玩家的游戏体验——或许以后不用捏脸，只要上传头像，就能生成准确的卡通化游戏角色了。

波音去年刚刚在韩国成立工程和科技中心，主要研究方向包括自动化、人工智能、航空电子学和数据分析等等。该机构的技术员工主要来自韩国本土的知名高校和科技公司等。

目前，这项技术还没有一个可用的demo，不过如果你对TensorFlow比较熟悉，可以在GitHub上浏览代码[2]或阅读原文并按照使用说明，在自己的电脑上跑起来～

[1] U-GAT-IT:UnsupervisedGenerative Attentional Networks with Adaptive Layer-Instance Normalization for Image-to-Image Translation https://arxiv.org/pdf/1907.10830.pdf

[2] https://github.com/taki0112/UGATIT