ChatGPT 和保密性：企业面临哪些挑战？
Posted: Sat Dec 28, 2024 8:55 am
自发布以来，ChatGPT 一直备受关注。这种人工智能（AI）是所有争议的中心。在 2023 年 3 月 29 日的一封公开信中，人工智能专家要求暂停 ChatGPT 等人工智能系统的开发至少六个月，特别呼吁在该领域建立新的监管机构。
ChatGPT 和隐私
该工具正在彻底改变我们处理信息的方式，因为它能够快速有效地响应从最简单到最复杂的各种请求。这是通过生成式预训练 Transformer (GPT)语言模型实现的，该模型使该工具能够维持类似人类的对话。因此，它在商业中的使用可以极大地提高员工的生产力并有助于实现增长目标。
然而，该工具也引发了许多法律问题，特别是在保密性和知识产权方面。此外，匈牙利 whatsapp 号码数据 5 万 结果的不可靠性和工具缺乏批判性思维也可能使其在某些情况下显得多余。
最近，一些国家对其使用提出质疑，特别是基于《通用数据保护条例》（GDPR）的规定。 2023 年 3 月 31 日，出于隐私问题，意大利数据保护局Il Garante per la protezione dei dati personi禁止意大利公民访问 ChatGPT。给出的原因涉及非法收集个人数据以及缺乏验证未成年人年龄的系统。管理局给予该工具的创始人OpenAI公司20 天的时间来传达为回应管理局的批评而采取的措施。如果不采取此类措施，公司将须支付最高 2000 万欧元或其全球年营业额 4% 的罚款（根据 GDPR 第 83 条）。与此同时，我们了解到，考虑到风险，OpenAI倾向于暂停在意大利使用其工具。在法国，CNIL 也收到了几起针对 ChatGPT 的投诉。
在商业方面，使用ChatGPT的问题也存在争议。亚马逊、美国银行和高盛等公司最近禁止其员工使用该工具，以保护他们可能需要与该工具交流的机密信息。
ChatGPT 和 GDPR
另外，ChatGPT是美国软件，因此其使用需要将数据传输到美国。然而，我们知道此类转移可能属于 GDPR 的规定（第 44 条及以下）。
根据其设计，该软件需要处理个人数据以进行“培训”。我们了解到OpenAI使用了在互联网上输入的大约 3000 亿个参数，尤其是来自维基百科的参数。这些网站包含大量个人信息，其中一些是敏感信息。然而，并没有征求有关人员同意参与这一处理，更不用说征求有关人员的同意了。OpenAI的合法利益似乎也无法证明处理这些个人数据的合理性。 GDPR 规定的某些权利也没有得到尊重，个人无法请求访问和删除违反 GDPR 的个人数据。
此外，使用该在美国托管的工具还涉及个人数据的处理，例如：
用户的电子邮件地址；
电话号码；
IP 地址；
网络浏览器的类型；
与网站互动的数据；
有关用户一段时间内的网页浏览活动的信息。
还应该指出的是，OpenAI授权自己与第三方共享个人信息，但未具体说明是哪些第三方。
如果根据 GDPR 在合同中使用这些数据是合理的，就会出现传输到美国的问题。这种转移需要特别同意，但绝不要求用户同意。
企业面临的风险
在公司内部的专业用途中，也可能会出现与商业秘密相关的问题。这是因为任何想要提高生产力和效率的公司都可以通过使用 ChatGPT 获得大量好处。
鉴于用途的多样性，看到数据被泄露的风险是巨大的。这种风险也会影响与雇主签订保密协议的雇员。如果员工共享机密数据（无论自愿与否），他就违反了自己的义务，并承担随之而来的所有后果。
自动决策及其法律框架
在某些情况下，ChatGPT 还可以被公司用来做出有关个人的决策。我们将谈论“自动决策”。这是通过应用于个人数据的算法对一个人做出的任何决定，而无需任何人干预该过程。
我们可以特别引用金融组织在获取信贷的情况下评估个人财务偿付能力的潜在用途。在这种情况下，算法会根据某些定义的标准分析该人的财务状况，无需任何人为干预。因此，算法在处理个人数据时会自行做出决定。因此，该机构将遵循该工具的建议来做出决定。
面对这些问题，欧盟希望根据 GDPR 第 22 条规范此类决定的使用。该条规定，每个人都有权不成为完全基于自动化处理的决定的主体，该决定对他们产生法律效力或以类似方式对他们产生重大影响。
目标很明确，就是防止人类完全受制于机器做出的决策。不过，也有例外情况，特别是在获得有关人员明确同意的情况下或在具体法律规定的情况下。
发生损坏时公司的责任
最后，出现了公司的责任问题，该公司根据 ChatGPT 的意见做出决定，该决定可能会对他人造成损害。在没有适用于人工智能的具体规定的情况下，适用普通民事责任法，用户应对因使用人工智能产生的内容而产生的有害后果负责。 2022年9月，欧盟委员会发布了一项指令提案，涉及将合同外民事责任规则调整到人工智能领域。在等待有关该主题的更精确规则的同时，判例法将在为所有这些新挑战提供更多法律确定性方面发挥关键作用。
ChatGPT 和隐私
该工具正在彻底改变我们处理信息的方式，因为它能够快速有效地响应从最简单到最复杂的各种请求。这是通过生成式预训练 Transformer (GPT)语言模型实现的，该模型使该工具能够维持类似人类的对话。因此，它在商业中的使用可以极大地提高员工的生产力并有助于实现增长目标。
然而，该工具也引发了许多法律问题，特别是在保密性和知识产权方面。此外，匈牙利 whatsapp 号码数据 5 万 结果的不可靠性和工具缺乏批判性思维也可能使其在某些情况下显得多余。
最近，一些国家对其使用提出质疑，特别是基于《通用数据保护条例》（GDPR）的规定。 2023 年 3 月 31 日，出于隐私问题，意大利数据保护局Il Garante per la protezione dei dati personi禁止意大利公民访问 ChatGPT。给出的原因涉及非法收集个人数据以及缺乏验证未成年人年龄的系统。管理局给予该工具的创始人OpenAI公司20 天的时间来传达为回应管理局的批评而采取的措施。如果不采取此类措施，公司将须支付最高 2000 万欧元或其全球年营业额 4% 的罚款（根据 GDPR 第 83 条）。与此同时，我们了解到，考虑到风险，OpenAI倾向于暂停在意大利使用其工具。在法国，CNIL 也收到了几起针对 ChatGPT 的投诉。
在商业方面，使用ChatGPT的问题也存在争议。亚马逊、美国银行和高盛等公司最近禁止其员工使用该工具，以保护他们可能需要与该工具交流的机密信息。
ChatGPT 和 GDPR
另外，ChatGPT是美国软件，因此其使用需要将数据传输到美国。然而，我们知道此类转移可能属于 GDPR 的规定（第 44 条及以下）。
根据其设计，该软件需要处理个人数据以进行“培训”。我们了解到OpenAI使用了在互联网上输入的大约 3000 亿个参数，尤其是来自维基百科的参数。这些网站包含大量个人信息，其中一些是敏感信息。然而，并没有征求有关人员同意参与这一处理，更不用说征求有关人员的同意了。OpenAI的合法利益似乎也无法证明处理这些个人数据的合理性。 GDPR 规定的某些权利也没有得到尊重，个人无法请求访问和删除违反 GDPR 的个人数据。
此外，使用该在美国托管的工具还涉及个人数据的处理，例如：
用户的电子邮件地址；
电话号码；
IP 地址；
网络浏览器的类型；
与网站互动的数据；
有关用户一段时间内的网页浏览活动的信息。
还应该指出的是，OpenAI授权自己与第三方共享个人信息，但未具体说明是哪些第三方。
如果根据 GDPR 在合同中使用这些数据是合理的，就会出现传输到美国的问题。这种转移需要特别同意，但绝不要求用户同意。
企业面临的风险
在公司内部的专业用途中，也可能会出现与商业秘密相关的问题。这是因为任何想要提高生产力和效率的公司都可以通过使用 ChatGPT 获得大量好处。
鉴于用途的多样性，看到数据被泄露的风险是巨大的。这种风险也会影响与雇主签订保密协议的雇员。如果员工共享机密数据（无论自愿与否），他就违反了自己的义务，并承担随之而来的所有后果。
自动决策及其法律框架
在某些情况下，ChatGPT 还可以被公司用来做出有关个人的决策。我们将谈论“自动决策”。这是通过应用于个人数据的算法对一个人做出的任何决定，而无需任何人干预该过程。
我们可以特别引用金融组织在获取信贷的情况下评估个人财务偿付能力的潜在用途。在这种情况下，算法会根据某些定义的标准分析该人的财务状况，无需任何人为干预。因此，算法在处理个人数据时会自行做出决定。因此，该机构将遵循该工具的建议来做出决定。
面对这些问题，欧盟希望根据 GDPR 第 22 条规范此类决定的使用。该条规定，每个人都有权不成为完全基于自动化处理的决定的主体，该决定对他们产生法律效力或以类似方式对他们产生重大影响。
目标很明确，就是防止人类完全受制于机器做出的决策。不过，也有例外情况，特别是在获得有关人员明确同意的情况下或在具体法律规定的情况下。
发生损坏时公司的责任
最后，出现了公司的责任问题，该公司根据 ChatGPT 的意见做出决定，该决定可能会对他人造成损害。在没有适用于人工智能的具体规定的情况下，适用普通民事责任法，用户应对因使用人工智能产生的内容而产生的有害后果负责。 2022年9月，欧盟委员会发布了一项指令提案，涉及将合同外民事责任规则调整到人工智能领域。在等待有关该主题的更精确规则的同时，判例法将在为所有这些新挑战提供更多法律确定性方面发挥关键作用。