如今，社交媒体在生活中扮演着不可或缺的角色，影响着我们彼此交流、获取信息和分享信息的方式。尽管还不到 30 年 [1]，但我们已经看到 Facebook、Twitter、TikTok 和 LinkedIn 等平台的巨大发展：Facebook 现在是 Meta，拥有 WhatsApp、Instagram 和 Threads；Twitter 是 X。这两家公司的所有者都是亿万富翁，他们预见了技术趋势，利用了这些机会，为快速创新的行业开辟了道路。 从商业角度来看，推动社交媒体成功的最大因素是消费者数据。绝大多数社交媒体平台都是免费的，而且能够以这种方式运营，因为你允许他们访问你的数据。借助这一点，像 Meta 这样的公司能够塑造社交媒体内容和互动。根据意图和用例，这可以被视为有益或不道德，而隐私和操纵等问题现在并不罕见。 在本文中，我们将深入探讨在社交媒体中使用 和算法的道德问题，研究它们如何帮助个性化内容，如何可能导致偏见和回音室，以及人工智能在社交媒体平台的未来。 人工智能 算法简史及其在社交媒体中日益增多的用例 “算法是一系列旨在解决特定问题、执行任务或做出决策的指令” [2]。在社交媒体中，这些指令控制着用户体验，例如内容排名、过滤和个性化，通常基于不同消费者群体的趋势。这让您作为用户能够更快地找到您感兴趣的内容，因为它很可能出现在“为您推荐”页面上，而无需您搜索。 算法并非社交媒体中一直使用的东西。2009 年，Tumblr 和 Facebook 推出了排名指标和个性化信息流。2012 年，更多社交 纷纷效仿。Facebook 在其新闻信息流中增加了算法的使用，并推出了赞助内容 [3]。LinkedIn 开始提供“半结构化信息流”，YouTube 则引入了排名算法，优先考虑观看时间而不是数量 [4]。从那时起，算法在这种社交媒体中的作用只增不减。到 2015 年，在大数据发展的支持下，机器学习开始在排序和过滤算法中发挥作用。2016 年的政治事件，如特朗普当选和英国脱欧公投（也是剑桥分析公司丑闻的关键一年），让公众注意到社交媒体中如此大量使用算法和收集用户数据所带来的一些道德困境。 媒体 如今，人工智能算法的构建非常精确，它们会根据你之前在平台上的具体互动来推荐内容，而不断增长的用户数据让社交媒体公司能够消除绝大多数猜测。《社交困境》[5] 和《大黑客》[6] 等纪录片让我们了解到其中一些算法是如何设计的，它们的最终目标通常是让用户在他们的平台上停留更长时间，并推动与平台的互动。虽然用户互动的增加意味着社交媒体公司可以收集、调整和重复这一过程的数据更多，但这一目标并没有考虑到社交媒体消费对用户和整个社会最有利。 算法偏见引发的道德问题 算法会延续有害偏见，在社交媒体的背景下，这通常表现为刻板印象的强化和对不同观点的接触受限。随着时间的推移，这可能会加剧歧视、分化选民，甚至助长极端主义和右翼/独裁民粹主义，而这些都会利用社会分歧。 在影响程度较低的情况下，算法偏见的例子可能包括针对某些行业的招聘信息，例如 LinkedIn 向男性展示的次数多于女性，因为算法建模所基于的训练数据集预测男性更有可能从事这些职位。虽然这不一定会产生立竿见影的有害影响，但它会形成一个负面反馈循环，与社会改善工作场所和特定行业的平等和代表性的目标背道而驰。这样一来，性别偏见就因算法偏见而得以延续，因为算法偏见限制了女性看到这些广告的机会。 现在，为了更深入地探讨算法偏见的更高层次含义，我们将以 2016 年特朗普大选作为案例研究。 案例研究：算法如何影响特朗普 2016 年大选的极化/回音室 研究表明，在 2016 年美国总统大选期间，算法可能通过放大回音室效应并限制选民接触不同观点而加剧了政治两极分化。许多人认为，正是这种机制让特朗普主义得以猖獗，也是为什么很少有人预测他会获胜的原因 [7]，因为这些动态在选举期间并没有被充分理解或看到。 因此，即使在社交媒体上，‘物以类聚，人以群分’的情况似乎也确实如此[8]。 算法会根据用户的偏好定制内容，保护他们免受反对意见和观点的影响，并形成“过滤气泡”。反过来，这些过滤气泡中的某些人会进一步将自己孤立在数字环境中，从而继续积极强化他们的观点。在数字环境中，他们的信念和观点会得到回应，甚至得到进一步强化。这些被称为“回音室”。 从本质上来说，社交媒体营造了一种环境，在这种环境中，我们都接收极其个性化的新闻和内容，以至于我们对其他人的不同观点视而不见。 目前，研究尚不清楚社交媒体是否仅仅是一个允许回音室出现的平台，或者其使用算法是否在创建这些回音室方面发挥了作用[8]。  2016 年特朗普的胜利表明，社交媒体公司的议程可能会对数百万人产生广泛影响，尽管这些影响并非有意为之，但仍然影响巨大，而且不道德。我们知道，社交媒体算法旨在通过提供针对个人偏好的内容来最大限度地提高用户参与度和留存率。但现在，我们也看到这甚至适用于政治对话，利用用户的政治倾向和弱点。 如果算法不影响人们的个人政治信仰，谁知道选举将会如何进行？ 这对民主和政治稳定有何影响？如果人们没有意识到这些操纵，结果能被认为是公平和有效的吗？ 社交媒体人工智能的未来 算法和人工智能在社交媒体中的作用只会随着我们在这些领域的创新而不断发展。从人工智能生成的内容到人工智能驱动的算法，以实现我们之前提到的精确度，同样需要越来越多地考虑将其融入社交媒体所带来的道德挑战。这需要从解决算法偏见和促进社交媒体平台的算法透明度开始。 未来的政策考量和法规将在塑造社交媒体中人工智能的使用轨迹方面发挥关键作用。人们越来越关注算法监管的必要性，以及防止这些隐形偏见可能造成的危害，尤其是在美国。到目前为止，相关举措包括[9]：  “2022 年算法问责法案”  《2023 年消除算法系统偏见法案》  “人工智能权利法案” 虽然目前有更多框架处于提案阶段，但考虑到这些强大技术已经产生的影响，对其的监管仍然不足。要在创新与维护用户利益之间取得微妙的平衡，需要科技公司、政策制定者和用户共同合作。 社交媒体确实有能力成为一股向善的力量，团结社区，促进包容性；然而，如果没有足够的框架和法规来保护用户权利，其对人工智能和算法的使用也可能对个人和更广泛的社会造成破坏。 参考 [1] 。   社交媒体的演变：它是如何开始的？接下来会走向何方？| 玛丽维尔在线  [2] 您需要了解的有关社交媒体算法的一切 [3]   Facebook 的新闻推送已有 10 年历史。网站发生了这些变化 | 世界经济论坛 [4]   社交媒体算法的历史 [5] 观看《社交困境》 | Netflix 官方网站 [6] 观看《The Great Hack》| Netflix 官方网站 [7]   “过滤泡沫”解释了为什么特朗普会赢，而你却没有预料到 [8]   社交媒体回音室是如何出现的（以及为什么你所有的朋友都认为特朗普会输）  [9]  2023 年消除算法系统偏见法案

This story contains new, firsthand information uncovered by the writer.

The is an opinion piece based on the author’s POV and does not necessarily reflect the views of HackerNoon.

Read My Stories

The Ethics of AI in Modern Warfare: Balancing Innovation with Moral Accountability

AI in Social Media: Ethical Considerations of AI and Algorithms in Shaping Social Media Interactions

該音頻是用故事的原始語言製作的！

社交媒体中的人工智能：人工智能和算法在塑造社交媒体互动方面的伦理考量

About Author

註釋

標籤

这篇文章刊登在

Related Stories

HackerNoon Decoded: The Top 10 Countries Where HackerNoon Is the Most Active

如何将您的工作流程提高 10 倍：17 个必备应用程序

Floki 的 Valhalla 成为印度环斯里兰卡赛事联合赞助商

架构师指南：构建 AI/ML 数据湖参考架构

HackerNoon Decoded: The Top 10 Countries Where HackerNoon Is the Most Active

如何将您的工作流程提高 10 倍：17 个必备应用程序

Floki 的 Valhalla 成为印度环斯里兰卡赛事联合赞助商

架构师指南：构建 AI/ML 数据湖参考架构

Light-Mode

Classic

Newspaper

Dark-Mode

Neon Noir

Minty

HN StartUps