我很黑,我很自豪 – 而Netflix也知道。也许就是这样 丑闻 狂欢,或者我看过黑人女导演的几部电影这一事实,但我的新电影推荐中突然有三分之一的黑人演员担任主角。甚至一个致力于“非洲裔美国电影”的类别也出现在我的Feed中。

Netflix以其不可思议的现场推荐和越来越具体的推荐系统而闻名。在过去的几年里,该公司已经为任何可以改进其着名算法的人提供奖励。就在本月,Netflix公布了一些变化,通过将您的偏好与世界各地的观众进行三角测量,进一步提升特异性。

那么,或许我应该假设,如果由黑人演员主演的电影被标记为“非洲裔美国电影”,同时他们被标记为“惊悚片”或“家庭剧”,观看一些将会产生一系列新的推荐选秀权。更多的种族多样性。我甚至可以看到这是一件好事,给我更多我想要的东西。

或许我可以看到潜在的问题,不是我们所展示的,而是我们没有被展示的东西。我可以看到,直到你表达了对“黑色”内容特别感兴趣的事实,你才能看到Netflix提供了多少内容。我可以看到这样一个事实:对于新的观众来说,他们的偏好尚未被Netflix的算法记录和跟踪,“黑色”电影和节目大部分都是隐藏在视野之外的。

图片

去年夏天,导演Gina Prince-Bythewood表达了她对Netflix推荐系统的这种特殊表达的担忧。她的电影 超越灯光, 一个关于一个正在崛起的流行歌星与一个发现不太可能浪漫的名人斗争的严重戏剧,与rom-com等内容混为一谈 我最喜欢的五个. 他们有一个共同点:担任主角的黑人演员。其他用户注意到更多不同的配对: Fruitvale站, 当代戏剧,和 一个不同的世界, 20世纪80年代情景喜剧,编辑 杂志观察到。

幕后工作中有一个巨大的网络可以实现这一目标。 Netflix不会简单地将每部电影或带有黑色线索的节目整合到一个类别中。该公司(没有回复询问的评论)雇用自由职业者为其库中的所有内容分配描述性标签。这些标签由Netflix标准化,包括特定情节的类别,如“悬疑”和“大脑”,以及像“非洲裔美国人”或“男女同性恋”这样的身份导向描述。简单的结果:电影和节目根据这些标签分配到类别,并作为下一步观看的建议提供给您。

图片

根据与MarieClaire.com谈话的前Netflix工程师的说法,该系统为“更像这个”部分提供了建议 – 与观众点击的特定标题类似的电影 – 同时考虑到其他Netflix的活动用户。所以,如果很多人都看过这两个 超越灯光 Fruitvale站 在Netflix上,这些游戏可能最终会相互关联,即使它们不相同。

“算法具有很好的识别社交模式的能力,他们可以过度推广这些模式,”前Netflix员工表示,他宁愿保持匿名。以我的一位朋友为例,他们嘲笑她看完后出现的建议 蓝色是最温暖的颜色. 其中包括像 Elena Undone最后的女孩, 好像Netflix认为她很想看到任何有同性恋性爱场面的东西。

当然,通过种族,性取向或其他身份标记对电影进行分类是有价值的。鉴于有多少人被好莱坞的看门人视为“利基”而被驳回,正如今年激烈争夺奥斯卡奖所证明的那样,有利于他们成功地将他们提供给可能喜欢他们的观众。

“黑色”电影和节目在很大程度上是隐藏在视野之外的。

这种类型的强化可以成为独立电影制片人的福音,其电影通常预算有限,因此无法在线下广泛分发或推广。奥尔顿玻璃,黑人导演和制片人,他的电影 酒庄 目前可以在Netflix上购买,认为将黑人电影制作并由黑人电影制作人制作的电影分组在一起是一个优势:“它可能会因为你是黑人而被推向你,”他说,“但你怎么会发现它呢?” (同样的论点也出现在当代文学中,因为某些作者推卸或接受“女性小说”或“酷儿小说”等标签。)

图片

事实上,对于那些寻找由有色人种创造的内容的人来说,Netflix可能提供的不够。该公司1月份的全球扩张包括整个非洲,但在撰写本文时,Netflix只有21部Nollywood电影。他们面临来自尼日利亚的iRoko等替代服务的竞争,这家风险投资支持的公司于2010年开始作为YouTube频道,每月仍有大约2500万次观看,现在运行自己的视频点播平台。类似的服务正在其他地方出现,包括为法语观众提供服务的加利福尼亚州Afrostream,以及将于下个月推出300部黑人电影制片人的kweliTV。 “对于我们的客户来说,他们只是对他们想要看到的内容在主流平台上不易获得的事实感到沮丧,”kweliTV创始人兼首席执行官DeShuna Spencer说。

斯宾塞认为,Netflix对黑色电影的建议可能看起来如此刺耳,其中一个原因是该服务根本没有足够多的选择来为这些电影提供高质量的结果。这个论点得到了一些支持:在2013年 有线 关于Netflix算法的文章,产品创新副总裁Carlos Gomez Uribe提到了一部他很难找到类似建议的电影。原因?公司的图书馆里没有其他任何东西。当我在我的个人资料下浏览Netflix的建议时,我也注意到,对于许多有黑人演员的电视剧,相关电影的相同限制建议会一次又一次地出现。

“这就像人们巧妙地告诉他们,’这不适合你。’”

还有一种轻微的推拉 – 你的喉咙感觉,这使得建议更难以忍受。仅仅因为我是黑人 – 即使我热衷于支持黑人电影制片人 – 并不是说​​我观看的每一部电影或节目都需要以黑人演员为主角,或者说是“黑色故事”。我可能想看很多理由 超越灯光:我喜欢以音乐为主题的电影,并与Nate Parker合作,他的最新电影, 一个民族的诞生, 在Sundance-is bae是一个粉碎。

这是推荐算法的固有缺点之一:他们更有能力“削减选择而不是扩大选择”,旧金山Luminant Data的数据科学家和联合创始人Clare Corthell说。她解释说,通过根据用户的行为将用户分组,这些系统部分起作用。因此,如果观看黑人电影的用户的观看模式 – 可能主要是非洲裔美国人,尽管算法无法分辨 – 似乎是截然不同的,那些订阅者将获得独特的推荐,其他订阅者可能永远看不到。

“必须发生文化转变,人们基本上不再把我们带入贫民区,”导演,编剧和制片人斯蒂芬·温特说道,他的作品包括: 纽约,我爱你 杰森和雪莉. 温特说,有一次,在教授大学课程时,他展示了他的学生 坐上大巴. 对于许多白人学生来说,这是他们第一次看到一部Spike Lee电影,他们被迷住了。如果不是他的班级,他们可能永远不会意识到这一点。 “这就像人们巧妙地告诉他们,’这不适合你’,”他说。

在许多方面,Netflix的技术仅仅反映了现实世界的偏见。加州大学洛杉矶分校教育与信息研究院助理教授萨菲亚·诺布尔(Safiya Noble)研究了技术与文化偏见之间的交叉点时说:“这些平台总是存在人类决策和人类偏见。”实际上,这位前Netflix工程师回应了这一点:那些使用推荐算法的人都经过培训,可以识别并解释这些因素。但是偏见仍然存在。

图片

Noble说,其中一个问题是,技术服务通常直接针对大众市场而不是专注于特定群体的需求,所以公司往往依赖于对这些群体的错误假设 – 比如说,可能是一个演员的种族化妆对观众来说同样重要,无论电影是电影还是惊悚片。

使这一切更加复杂的是,有色人种以及女性在科技行业中的代表人数众多;在幕后工作的软件工程师可能甚至不知道这些组织对这些组织的敏感程度。 Noble在加州大学洛杉矶分校教授一门课程来检验这种效果。该课程的前提基本上是技术不是中立的:它汲取了人类的偏见,甚至是无意识的,并且放大了它们。 “我的许多学生告诉我他们从未接触过这种想法,”她说。

在一天结束时,统计数据无法揭示所有内容,并且可以用不公平的广泛描绘一幅画面。 “为什么你真的喜欢看电影不一定能在点击数据中看到,”Corthell说。

这是Netflix必须应对的挑战。毕竟,黑色电影 – 就像黑人一样 – 不是一块巨石。

图片

  詹姆斯卡梅隆谈论泰坦尼克号拍摄的秘密 - 你不知道关于电影泰坦尼克号的事情