独家对话Sumsub联合创始人兼CTO Vyacheslav Zholudev：人类能多大程度上信任AI？
数月前，Fazzaco荣幸地与领先验证平台Sumsub的联合创始人兼CTO Vyacheslav Zholudev进行了独家深度对话。此次采访是对于当前火爆程度不减、竞争日益激烈的生成式人工智能领域对金融行业影响这一话题的重要补充。
Vyacheslav Zholudev作为Sumsub的联合创始人兼首席技术官（CTO），凭借其无与伦比的技术与创业能力，帮助Sumsub的开发团队有效地实现复杂的目标。Vyacheslav拥有雅各布斯大学（德国）计算机科学博士学位，曾在ResearchGate担任解决方案架构师。 他是隐私保护、身份验证趋势、数字欺诈案例和国际个人数据合规性方面的专家。
Fazzaco：ChatGPT对金融科技领域有什么影响？带来了哪些机遇/价值和挑战？
Vyacheslav Zholudev：金融科技创新涉及到许多方面。ChatGPT背后的创新之处在于，它让非常技术性的任务变得更适应于普通大众。以前，创建、开发和编码应用程序及软件需要很高的门槛。ChatGPT的优势在于，它可以替你完成这些工作，而无需用户自己具备这些技能。以最近的应用程序创建为例，ChatGPT-4让你可以轻松掌握应用程序创建的编程语言。现在，用户唯一需要的就是想法，而不是技术知识。这是革命性的发展，它相当于为你提供了一个技术团队，来实现你的愿景。这是一个非常积极的发展，因为它让更多的人能够参与到先进技术的创造中，而不需要技术专长。
但是潜在的威胁可能存在于那些想要利用ChatGPT进行投资建议的人。尽管它们可能有一定的价值，但也存在着固有的风险。由于ChatGPT可能产生不准确甚至误导性的内容，个人可能面临意想不到的负面后果。此外，还必须注意，ChatGPT的训练数据是有限的，只包含了2021年9月之前的信息。因此，该技术提供的任何指导可能缺乏当代适用性。
Fazzaco：在金融科技公司中，哪些地方可以使用生成式 AI 技术？
Vyacheslav Zholudev：生成式 AI 技术在金融科技公司中的应用近年来迅速增长。然而，关键是要确定其具体的应用场景，以优化其效率，同时避免潜在的负面影响。虽然这项技术的潜力已经得到广泛认可，但在某些领域使用它应该避免。例如，它不适合用于合规目的，尤其是在金融等受到严格监管的行业中。部分可能是由于存在错误和缺乏透明度的风险，这会影响监管合规，甚至可能导致法律后果。
另一个不应该完全依赖生成式 AI 技术的领域是金融咨询。在这方面，人类因素仍然是必不可少的，因为需要考虑个人情况的个性化建议是必要的。过度依赖 AI 生成的建议可能会对客户造成伤害，而不是带来好处。
此外，也不应该完全依赖生成式 AI 技术进行数据提取。仅仅基于 AI 生成的建议做出确定结论是有风险的，可能会导致生成虚假的信息。虽然 AI 有潜力简化流程，但使用时必须谨慎，以确保结论或决策具有高度准确性。
Fazzaco：利用 AI 技术为客户提供投资建议或市场洞察和预测，相比真正的金融专家有什么优势？
Vyacheslav Zholudev：利用 AI 技术提供投资建议和市场洞察已经越来越普遍。然而，必须了解这种技术相比真正的金融专家的优势和局限性（我已经在回答第一个问题时提到了这一点）。虽然 AI 技术可能不适合直接进行市场预测，但可以用来分析和总结冗长的文档。例如，可以综合公司的财务报告，以更好地了解运营情况，为有经验的投资者提供独立做出投资决策的起点。
然而，AI 生成的洞察可能无法完全取代金融专家的专业知识和直觉。必须注意，AI 生成的洞察可能受到可用数据的偏见或限制的影响。因此，任何由 AI 得出的建议都必须经过人类专业知识的审查和指导，以降低风险和不确定性。
此外，通过使用 AI 使投资洞察更容易获取，可能会导致没有必要的知识或经验进行成功交易的投资者涌入。市场对这种激增的反应如何尚不确定，这继续证明人类专业知识在决策中的重要性。虽然 AI 可以支持金融决策，但应该谨慎使用，认识到它的建议只有在与人类洞察力和判断力相结合时才有用。
Fazzaco：ChatGPT有哪些局限性？
Vyacheslav Zholudev：我想到的第一个典型的ChatGPT的缺点是可能出现幻觉。聊天机器人可能产生令人恐惧又令人信服的回复，其中可能包含错误或不准确的信息，无意中对客户造成伤害。即使有复杂的算法和强大的语言生成能力，ChatGPT仍然面临着提供准确建议的风险。
其次，ChatGPT的训练数据只到2021年9月为止，这使得它对金融世界不断变化的格局有些不相关。这种局限性如何影响平台的整体性能和实际金融决策的适用性，目前还不确定。
Fazzaco：摩根大通曾因为合规问题限制了员工使用ChatGPT。你们公司对这项技术是什么态度？
Vyacheslav Zholudev：的确，将敏感数据发送给ChatGPT可能不是一个好主意，考虑到最近的数据泄露，导致安全漏洞增加。我们的目标是仅将AI技术用于非敏感信息，如市场洞察、竞争对手分析和初步搜索，以降低网络威胁的风险。这种方法确保了ChatGPT的潜力得到最大化，而不会将财务或敏感数据暴露于威胁之下。在处理敏感数据时采取额外的谨慎措施，金融科技公司可以大大降低造成破坏性泄露和数据泄露的风险，确保客户的数据保持机密和安全。
Fazzaco: 你能多大程度上信任AI/ChatGPT？
Vyacheslav Zholudev：虽然AI和ChatGPT在各个行业都是强大的工具，但对它们产生的结果保持怀疑是很重要的。当不确定时，重新表述或扩展问题，以衡量ChatGPT回复的可靠性和一致性。理想情况下，一个人不应仅根据ChatGPT的回复做出重要决定。
相反，我认为一个人应该把它当作一个灵感来源，并对手头的事情有一种直觉。最终，在做出关于财务方面的重要决定时，人类的参与和分析是必不可少的，使用AI技术必须谨慎进行，以安全地发挥其潜力。
Fazzaco：有专家认为，ChatGPT监管滞后存在潜在风险。一些国家，比如美国，已经呼吁对人工智能技术进行监管，以确保不会损害经济增长或成为国家安全风险。您认为ChatGPT的未来会怎样？
Vyacheslav Zholudev：ChatGPT的未来让许多人感到担忧。除了担心失业和全球经济影响之外，还有一些与我们领域相关的令人警惕的隐患。如果ChatGPT学会了处理图像，它很容易就可以用来制造虚假的文件和深度伪造，而这些目前正被用于KYC入职流程中。因此，目前用于安全用户入职的方法可能不再足够。这可能导致身份验证行业发生重大变革，甚至回归传统方法，即人们需要亲自到办公室开设银行账户。
这些人工智能工具（包括ChatGPT在内）所释放出来的速度和力量，迫切需要进一步调查其潜在的负面能力。科技行业领袖和著名计算机科学家发表了一封公开信，呼吁停止对ChatGPT进行进一步的开发，超过其最新的公开版本Chat-GPT4，原因也是出于同样的担忧。如果这些技术要继续发展，就需要一系列监管和法律保障来引导其有序地发展。
此外，欧洲刑警组织最近警告说，他们已经看到诈骗者利用Chat-GPT进行他们的计划，并补充说：“对于一个技术知识不多的潜在犯罪分子来说，这是一个无价之宝。与此同时，一个更高级的用户可以利用这些改进的能力来进一步完善甚至自动化复杂的网络犯罪手法。”
英国政府提出了一个关于人工智能技术规则和监管的框架建议，特别是针对“它可能对人们的隐私、人权或安全造成的风险”，我们预计其他政府也会效仿。必须尽快采取一系列不会阻碍人工智能技术创新的保障措施，以保护所有相关方。
阅读更多
Fazzaco人工智能论坛：来自经纪商和金融科技业界领袖的声音——当金融遇上ChatGPT
订阅
