本文最初由Computing于2023年11月20日发布.
Read the original article on Computing.co.uk.
6point6的数据科学家伊泽贝尔·戴利(Isobel Daley)研究了人工智能如何强化传统的性别角色
围绕人工智能的嗡嗡声不绝于耳. 每天都有新闻报道，要么预告人工智能是光速创新的催化剂，要么预测机器学习有一天会接管世界. Everyone’s talking about the future of AI, 但我们现在还没有花足够的时间来研究它的影响.
近年来，研究对种族歧视进行了调查 facial recognition technology and 人工智能在医疗保健应用中的年龄歧视. However, 尽管ChatGPT今年早些时候的采用率打破了纪录, 我们对当前生成式人工智能平台如何强化现有偏见的理解, particularly around gender, is still poor. 十大网博靠谱平台这个问题的学术研究仍然很少, 而且明显缺乏十大网博靠谱平台不同的基于文本的生成人工智能工具如何再现性别偏见的信息.
既然生成式人工智能正渗透到我们生活的方方面面，那么对独立研究的需求就成为当务之急. 感谢6point6提供的时间和资源, 我领导了一项十大网博靠谱平台人工智能目前缺陷的调查.
Our approach and our key findings
We gave Bard, ChatGPT-3.ChatGPT-4是一个营销提示，写一则广告，推销从洗衣机、巧克力到DIY和电钻等28种产品. 在使用GenBiT分析数据集之前，我们将每个广告提示运行40次，以提高我们研究的有效性和稳健性, 在基于文本的数据集中发现性别偏见的筛选工具.
So, what did our study reveal? Simply put, gender bias remains alive and well. If we had to compare all three platforms, Bard came out the worst, 产生带有更大程度性别偏见的文本. Next up was ChatGPT-3.5 which fared slightly better, 而新版本的OpenAI语言模型系统, ChatGPT-4, 在所有28种产品中，性别偏见都略有减少，排名第一.
下面的图表描述了人工智能生成的广告中用于男性或女性性别的“性别化”词汇的比例, broken down by product category and AI model. 有性别的词是那些可以明确地指定给特定性别的词, including pronouns and role-specific nouns. For instance, 像“女演员”或“酒吧女”这样的词是女性的, ‘fireman’ or ‘boyfriend’ are male-gendered, while ‘friend’, ‘scientist’ and ‘sibling’ are gender-neutral.
生成式人工智能工具的示例输出包括:
Furniture polish AI-generated ad
“一个女人坐在客厅里，看着她的家具. It is dusty and dull. 女:我喜欢我的家具，但是它开始看起来有点破旧了. I need something to make it shine again…”
Lawnmower AI-generated ad
一名男子正在用传统的推式割草机修剪草坪. He is sweating and looks tired. Narrator: Do you ever dread mowing your lawn? It's hot, it's tiring, and it takes forever. 这个人现在正在用一台新的机器人割草机割草坪. 他坐在椅子上看报纸，喝着冷饮.”
今天的人工智能正把我们带回到20世纪60年代的《十大网博靠谱平台》时代，在那个时代，男人主要负责DIY，而女人则把时间花在洗衣服和期待泡泡浴上!
What’s the solution?
当前一代的生成式人工智能工具正在产生有偏见的输出. If we ignore these outputs, 它们将被送入下一代人工智能, perpetuating the gender data gap. 我们需要解决性别偏见的一些症状和原因. In the short term, 人工智能平台的供应商需要使用低偏差的数据集来微调他们的模型. Ultimately, 长期可持续的解决方案是吸引更多女性从事数据科学和机器学习工作. 更好的代表性对于确保性别偏见不被忽视至关重要.
三年前，当我澳门十大正规赌博娱乐平台6point6的数据团队时，我是唯一的女性. 时至今日，我们拥有一支不断壮大、充满活力的数据分析团队, 机器学习工程和数据科学职位. 这次转变是我带头建立的 Women Excelling in Data 这是我在2022年与他人共同创立的，旨在为数据领域的女性创造一个网络空间.
AI will affect us all. 作为一个行业，我们需要团结起来，揭露潜在的风险和偏见，同时确保我们利用人工智能的潜力，让我们的生活更美好.
Isobel Daley, Data Scientist at 6point6
Isobel的使命是让所有企业都能使用人工智能，无论规模大小或行业如何. She has experience in data acquisition, data modelling, statistical analysis, machine learning, 深度学习和自然语言处理(NLP). 结合企业领导的背景, consulting and economics, Isobel is a highly commercial data scientist.
Get in touch 了解更多十大网博靠谱平台6point6的数据和人工智能能力，或访问我们的 career opportunities 如果您有兴趣澳门十大正规赌博娱乐平台6point6的数据团队.
