Exploração da aplicação de grandes modelos no setor financeiro: da ansiedade à racionalidade, os cenários de implementação tornam-se gradualmente mais claros.
Exploração da aplicação de grandes modelos na indústria financeira
A chegada do ChatGPT gerou uma forte ansiedade na indústria financeira. Este setor, repleto de fé na tecnologia, teme ser deixado para trás pela onda do tempo. Profissionais do setor afirmaram que, em maio deste ano, durante uma viagem de negócios a Dali, conseguiram até ouvir profissionais financeiros discutindo sobre grandes modelos dentro de um templo.
No entanto, essa ansiedade está gradualmente diminuindo, e o raciocínio das pessoas está se tornando mais claro e racional. Sun Hongjun, CTO da área bancária da Softcom, descreveu várias fases da atitude da indústria financeira em relação aos grandes modelos este ano: de fevereiro a março, havia uma sensação geral de ansiedade; de abril a maio, as equipes começaram a ser formadas para trabalhar; nos meses seguintes, encontraram dificuldades na implementação e começaram a se tornar racionais; agora, eles estão focando em casos de referência e tentando validar cenários comprovados.
É importante notar que muitas instituições financeiras já começaram a dar atenção estratégica aos grandes modelos. Segundo estatísticas incompletas, entre as empresas listadas na A-share, pelo menos 11 bancos mencionaram explicitamente em seus últimos relatórios semestrais que estão explorando a aplicação de grandes modelos. Com base nas ações recentes, eles também estão realizando um pensamento e planejamento mais aprofundados a partir de uma perspectiva estratégica e de design de alto nível.
Da empolgação à racionalidade
Um especialista sénior da indústria financeira de uma grande empresa afirmou que, em comparação com alguns meses atrás, a compreensão dos clientes financeiros sobre modelos grandes melhorou significativamente. No início do ano, quando o ChatGPT apareceu pela primeira vez, embora houvesse um grande entusiasmo, a verdade é que a compreensão sobre a essência e as formas de aplicação dos modelos grandes era limitada.
Nesta fase, alguns grandes bancos estão a agir rapidamente, começando a fazer várias campanhas de "aproveitamento de popularidade". Por exemplo, em março deste ano, um determinado banco lançou uma aplicação de grande modelo semelhante ao ChatGPT. No entanto, a avaliação no setor é mista; alguns acreditam que o nome desta aplicação enfatiza em demasia a parte "Chat" do ChatGPT, que é menos importante, ignorando o mais crucial "GPT".
Ao mesmo tempo, com várias empresas nacionais lançando sucessivamente grandes modelos, alguns departamentos de tecnologia de instituições financeiras de destaque começaram a discutir ativamente a construção de grandes modelos com grandes empresas. Fontes experientes revelaram que essas instituições financeiras geralmente desejam construir seus próprios grandes modelos, buscando orientação das empresas em áreas como criação de conjuntos de dados, aquisição de servidores e treinamento de modelos. Uma empresa de tecnologia financeira pertencente a um grande banco até sugeriu que, após a conclusão, gostaria de oferecer o modelo a outras instituições do setor.
Após maio, a situação começou a mudar. Limitadas pela escassez de recursos de computação e pelos altos custos, muitas instituições financeiras deixaram de perseguir puramente a construção de sua própria capacidade de computação e modelos, e passaram a se concentrar mais no valor da aplicação. Agora, cada instituição financeira está atenta a como outras instituições aplicam modelos grandes e os resultados obtidos.
Para empresas de diferentes tamanhos, surgiram dois caminhos. As grandes instituições financeiras, que possuem uma enorme quantidade de dados financeiros e cenários de aplicação, podem introduzir modelos de base líderes do setor, construir seus próprios modelos empresariais e, ao mesmo tempo, adotar ajustes finos para formar modelos de tarefas em áreas especializadas, capacitando rapidamente os negócios para compensar a desvantagem do longo ciclo de construção de grandes modelos. As pequenas e médias instituições financeiras, por sua vez, podem considerar o retorno sobre investimento e, conforme necessário, introduzir APIs de nuvem pública de vários grandes modelos ou serviços de implantação privada, atendendo diretamente às necessidades de capacitação.
No entanto, devido às altas exigências da indústria financeira em termos de conformidade de dados, segurança e confiabilidade, algumas pessoas acreditam que o progresso da implementação de grandes modelos neste setor está, na verdade, um pouco mais lento do que o esperado no início do ano. Sun Hongjun da Softcom Power afirmou que eles inicialmente esperavam que a indústria financeira pudesse ser a primeira a usar grandes modelos em larga escala, mas, com base na situação final de integração com os clientes, o progresso na indústria financeira não é tão rápido quanto nas indústrias de direito, recrutamento, entre outras.
Algumas instituições financeiras já começaram a procurar soluções para diversas "gargalos" no processo de implementação de grandes modelos.
Por exemplo, na área de poder de cálculo, especialistas da indústria observaram que atualmente existem várias soluções no setor financeiro:
Primeiro, construir diretamente a capacidade de computação, o custo é mais alto, mas a segurança é a melhor. Adequado para instituições financeiras com forte capacidade, que desejam construir modelos de grande escala para o setor ou empresa, como alguns grandes bancos estatais.
Em segundo lugar, adotar uma abordagem de implantação híbrida, garantindo que os dados sensíveis não saiam do domínio, chamando a interface de serviço do grande modelo a partir da nuvem pública, enquanto processa o serviço de dados local através de implantação privada. Essa abordagem tem um custo relativamente baixo, exigindo apenas um investimento de algumas centenas de milhares de yuans para adquirir algumas placas GPU, o que atende às necessidades de instituições financeiras de pequeno e médio porte com recursos financeiros limitados e que aplicam conforme a demanda.
No entanto, mesmo assim, muitas pequenas e médias instituições ainda enfrentam o problema de não conseguir comprar ou não poder pagar pelas placas de GPU necessárias para grandes modelos. Para abordar essa questão, os especialistas mencionados revelaram que as autoridades reguladoras estão atualmente realizando algumas pesquisas sobre o assunto, explorando se é possível, de uma forma intermediária, liderar a construção de uma infraestrutura de grandes modelos voltada para a indústria, concentrando recursos de poder computacional e grandes modelos genéricos, para que as pequenas e médias instituições financeiras do setor também possam utilizar os serviços de grandes modelos, evitando que fiquem tecnologicamente para trás.
Além dos problemas de poder de computação, com a exploração da implementação de grandes modelos nos últimos seis meses, muitas instituições financeiras também estão gradualmente reforçando seu trabalho de governança de dados.
Um executivo de uma conhecida provedora de serviços em nuvem apresentou que, atualmente, além dos grandes bancos que já têm práticas maduras na área de governança de dados, cada vez mais instituições financeiras de médio porte também estão começando a construir plataformas de dados e sistemas de governança de dados, como alguns bancos regionais no primeiro semestre deste ano. Ele acredita que a construção de um sistema de governança de dados robusto e de uma plataforma de tecnologia de lago de dados se tornará um tema importante para a construção de TI das instituições financeiras no futuro.
Há também bancos que estão resolvendo problemas de dados através de grandes modelos + MLOps. Por exemplo, um grande banco estabeleceu um sistema de fechamento de dados de grandes modelos adotando o modo MLOps, alcançando a automação de todo o processo, bem como a gestão unificada e o processamento eficiente de dados heterogêneos de múltiplas fontes. Segundo informações, atualmente já foi construído e sedimentado um conjunto de dados de treinamento de alta qualidade de 2,6 TB.
Entrar pela cena externa
Nos últimos seis meses, tanto os prestadores de serviços de grandes modelos quanto as principais instituições financeiras têm procurado ativamente cenários de aplicação. Áreas como escritório inteligente, desenvolvimento inteligente, marketing inteligente, atendimento ao cliente inteligente, pesquisa e investimento inteligente, controle de riscos inteligente e análise de necessidades estão sendo exploradas uma a uma.
Como disse um executivo de uma conhecida empresa de tecnologia financeira, "cada função chave na cadeia de negócios financeiros merece ser refeita com tecnologia de grandes modelos." A empresa recentemente lançou um grande modelo financeiro e está em fase de testes internos com instituições parceiras para construir produtos de grandes modelos voltados para a indústria financeira, com o objetivo de criar assistentes de negócios em IA para especialistas em finanças, como consultores de investimentos, agentes de seguros, pesquisa de investimentos, marketing financeiro, e liquidação de seguros.
Cada instituição financeira tem uma rica variedade de ideias para a aplicação de grandes modelos. Um grande banco afirmou que já implementou mais de 20 cenários internamente, outro banco mencionou que realizou pilotos em mais de 30 cenários, enquanto uma corretora de valores declarou que está explorando a integração de grandes modelos com a plataforma de humanos digitais virtuais que foi lançada anteriormente...
Mas quando se trata de realmente implementar grandes modelos nos negócios, há um consenso geral de que devemos começar internamente antes de expandir para o exterior. Afinal, nesta fase, a tecnologia dos grandes modelos ainda não está madura, apresentando problemas como alucinações, e a indústria financeira é um setor altamente regulado, com alta segurança e alta confiabilidade.
"Não é recomendável usar diretamente com clientes a curto prazo." O responsável técnico de um grande banco acredita que as instituições financeiras devem priorizar a aplicação de grandes modelos em cenários de análise e compreensão de texto e imagem financeira, de forma a realizar uma colaboração homem-máquina na forma de assistente, aumentando a eficiência do trabalho dos funcionários.
Os executivos dos provedores de serviços em nuvem mencionados também afirmaram que muitos clientes do setor financeiro acreditam que assistentes de código e assistentes de atendimento ao cliente são cenários que podem gerar resultados imediatos. Já cenários como pesquisa e aconselhamento de investimentos, embora tenham um grande valor, são difíceis de mostrar resultados rapidamente e exigem dados de alta qualidade.
Atualmente, o assistente de código já foi implementado em várias instituições financeiras. Por exemplo, um grande banco construiu um sistema de desenvolvimento inteligente baseado em grandes modelos, onde a quantidade de código gerada pelo assistente de codificação representa 40% do total de código. Da mesma forma, no setor de seguros, uma companhia de seguros desenvolveu um plugin de programação assistida baseado em grandes modelos, diretamente integrado às ferramentas de desenvolvimento internas.
Baseado nisso, alguns fabricantes também estão a desenvolver produtos prontos a usar para clientes do setor financeiro, aproveitando a capacidade de geração de código dos grandes modelos. Um executivo de uma empresa de serviços de TI informou que um de seus produtos, além da capacidade de autocompletar código do grande modelo, adicionou uma série de funcionalidades como decomposição de tarefas, respostas precisas e superação das limitações de contexto, permitindo que os usuários tenham uma experiência pronta a usar. Atualmente, este produto já está a ser utilizado por mais de 3000 pessoas em um banco internacional, com uma taxa de autocompletar código entre 50% e 90%.
Na área de escritório inteligente, também há muitos casos de implementação. Um especialista de uma grande empresa de tecnologia, responsável por produtos de grandes modelos para o setor financeiro, apresentou que a funcionalidade de perguntas e respostas para agências, baseada em grandes modelos financeiros, foi lançada em julho em um grande banco e já foi gradualmente promovida para várias centenas de agências, com uma taxa de adoção de respostas superior a 85%. Atualmente, a solução padrão incubada para perguntas e respostas de documentos está sendo rapidamente replicada em vários outros bancos e instituições financeiras.
No entanto, especialistas da indústria acreditam que esses cenários que já foram amplamente implementados ainda não são aplicações centrais das instituições financeiras, e que os grandes modelos ainda estão a uma certa distância de penetrar nas camadas de negócios da indústria financeira.
"Nós mesmos julgamos que a dificuldade em aplicar isso em cenários de negócios é bastante grande." Um executivo de uma empresa de serviços de TI afirmou que cenários como marketing, gestão de riscos e conformidade são áreas onde grandes modelos podem trazer mudanças, e também são os pontos de demanda dos clientes financeiros. No entanto, na situação atual, esses trabalhos ainda dependem da capacidade de melhoria dos fornecedores de grandes modelos subjacentes antes de implementarem os cenários de negócios.
Os especialistas seniores de grandes modelos da indústria preveem que, antes do final deste ano, haverá uma série de projetos de construção ou informações de licitação sobre a aplicação real de grandes modelos em cenários de negócios centrais de instituições financeiras.
Antes disso, algumas mudanças ao nível do design superior estavam a ser realizadas.
No início de setembro, numa conferência do setor, um professor de uma universidade renomada fez o seguinte julgamento: todo o sistema inteligente e digital do futuro será reestruturado sobre a base de grandes modelos. Isso exige que a indústria financeira, ao promover a implementação de grandes modelos, reestruture seus sistemas. Ao mesmo tempo, não se pode ignorar o valor dos modelos pequenos tradicionais, devendo permitir que grandes e pequenos modelos colaborem.
Esta tendência já se manifesta amplamente na indústria financeira. "Agora as instituições financeiras estão a testar a implementação de grandes modelos, basicamente adotando um modelo em camadas." Um executivo de um fornecedor de serviços em nuvem explicou que, ao contrário do modelo de silos em que era necessário construir uma plataforma para cada cenário, os grandes modelos na verdade oferecem às instituições financeiras uma oportunidade de planejar todo o sistema de uma forma mais científica desde o início.
É possível ver que atualmente várias instituições financeiras de destaque, com base em grandes modelos, estabeleceram uma estrutura de sistema em camadas que inclui múltiplos níveis, como camada de infraestrutura, camada de modelo, camada de serviço de grandes modelos, camada de aplicação, entre outros, como vários grandes bancos, corretoras e companhias de seguros.
Esses frameworks geralmente têm duas características marcantes: em primeiro lugar, os grandes modelos desempenham a capacidade central, utilizando modelos tradicionais como habilidades; em segundo lugar, a camada dos grandes modelos adota uma estratégia de múltiplos modelos, realizando uma competição interna para selecionar o melhor desempenho.
Na verdade, não são apenas as instituições financeiras; em um cenário de incerteza atual, alguns fornecedores de aplicações de grandes modelos também estão adotando uma estratégia de múltiplos modelos para otimizar os resultados dos serviços. Um executivo de uma empresa de serviços de TI revelou que a sua camada de modelos subjacentes também integra uma grande quantidade de grandes modelos de linguagem, e que irá montar as respostas otimizadas a partir das respostas de cada grande modelo para apresentar aos usuários.
A lacuna de talentos continua a ser enorme
A aplicação de grandes modelos já começou a trazer alguns desafios e mudanças na estrutura de pessoal da indústria financeira.
Anteriormente, um representante de uma empresa de tecnologia financeira em Xangai afirmou que, com o surgimento do ChatGPT, desde o início deste ano até o final de maio, a empresa dele já havia demitido mais de 300 analistas de big data. E há alguns anos, esta ainda era uma profissão muito procurada. Isso gerou ansiedade nele, a ponto de ele começar a considerar antecipadamente a futura escolha profissional da sua filha.
Um veterano do setor financeiro de um grande banco também compartilhou os efeitos de substituição das pessoas pelos grandes modelos. Anteriormente, todos os dias de manhã, estagiários reuniam e resumiam informações de várias áreas, que eram então entregues às pessoas do departamento de pesquisa e investimento, mas agora esse trabalho dos estagiários pode ser realizado pelos grandes modelos.
No entanto, alguns bancos na verdade não desejam que os grandes modelos resultem em cortes de pessoal. Por exemplo, um grande banco com 200.000 funcionários em agências deixou claro para os fornecedores de tecnologia que não desejam que os funcionários sejam substituídos por grandes modelos, mas sim que os grandes modelos tragam novas oportunidades, melhorem a qualidade do serviço e a eficiência do trabalho dos funcionários, ao mesmo tempo que liberam alguns funcionários para que possam realizar tarefas de maior valor.
Isto inclui considerações sobre a estabilidade das pessoas e estruturas. Mas, por outro lado, também se deve ao fato de que há ainda lacunas de talentos em muitos cargos dentro da indústria.
Um executivo de uma empresa de serviços de TI afirmou que grandes bancos têm uma quantidade significativa de trabalho não concluído, com prazos para algumas demandas de TI se estendendo até o final do próximo ano. Eles esperam que modelos grandes ajudem os funcionários a concluir mais trabalho, aumentando a eficiência e a velocidade, em vez de resultar em redução de pessoal.
Esta página pode conter conteúdo de terceiros, que é fornecido apenas para fins informativos (não para representações/garantias) e não deve ser considerada como um endosso de suas opiniões pela Gate nem como aconselhamento financeiro ou profissional. Consulte a Isenção de responsabilidade para obter detalhes.
Exploração da aplicação de grandes modelos no setor financeiro: da ansiedade à racionalidade, os cenários de implementação tornam-se gradualmente mais claros.
Exploração da aplicação de grandes modelos na indústria financeira
A chegada do ChatGPT gerou uma forte ansiedade na indústria financeira. Este setor, repleto de fé na tecnologia, teme ser deixado para trás pela onda do tempo. Profissionais do setor afirmaram que, em maio deste ano, durante uma viagem de negócios a Dali, conseguiram até ouvir profissionais financeiros discutindo sobre grandes modelos dentro de um templo.
No entanto, essa ansiedade está gradualmente diminuindo, e o raciocínio das pessoas está se tornando mais claro e racional. Sun Hongjun, CTO da área bancária da Softcom, descreveu várias fases da atitude da indústria financeira em relação aos grandes modelos este ano: de fevereiro a março, havia uma sensação geral de ansiedade; de abril a maio, as equipes começaram a ser formadas para trabalhar; nos meses seguintes, encontraram dificuldades na implementação e começaram a se tornar racionais; agora, eles estão focando em casos de referência e tentando validar cenários comprovados.
É importante notar que muitas instituições financeiras já começaram a dar atenção estratégica aos grandes modelos. Segundo estatísticas incompletas, entre as empresas listadas na A-share, pelo menos 11 bancos mencionaram explicitamente em seus últimos relatórios semestrais que estão explorando a aplicação de grandes modelos. Com base nas ações recentes, eles também estão realizando um pensamento e planejamento mais aprofundados a partir de uma perspectiva estratégica e de design de alto nível.
Da empolgação à racionalidade
Um especialista sénior da indústria financeira de uma grande empresa afirmou que, em comparação com alguns meses atrás, a compreensão dos clientes financeiros sobre modelos grandes melhorou significativamente. No início do ano, quando o ChatGPT apareceu pela primeira vez, embora houvesse um grande entusiasmo, a verdade é que a compreensão sobre a essência e as formas de aplicação dos modelos grandes era limitada.
Nesta fase, alguns grandes bancos estão a agir rapidamente, começando a fazer várias campanhas de "aproveitamento de popularidade". Por exemplo, em março deste ano, um determinado banco lançou uma aplicação de grande modelo semelhante ao ChatGPT. No entanto, a avaliação no setor é mista; alguns acreditam que o nome desta aplicação enfatiza em demasia a parte "Chat" do ChatGPT, que é menos importante, ignorando o mais crucial "GPT".
Ao mesmo tempo, com várias empresas nacionais lançando sucessivamente grandes modelos, alguns departamentos de tecnologia de instituições financeiras de destaque começaram a discutir ativamente a construção de grandes modelos com grandes empresas. Fontes experientes revelaram que essas instituições financeiras geralmente desejam construir seus próprios grandes modelos, buscando orientação das empresas em áreas como criação de conjuntos de dados, aquisição de servidores e treinamento de modelos. Uma empresa de tecnologia financeira pertencente a um grande banco até sugeriu que, após a conclusão, gostaria de oferecer o modelo a outras instituições do setor.
Após maio, a situação começou a mudar. Limitadas pela escassez de recursos de computação e pelos altos custos, muitas instituições financeiras deixaram de perseguir puramente a construção de sua própria capacidade de computação e modelos, e passaram a se concentrar mais no valor da aplicação. Agora, cada instituição financeira está atenta a como outras instituições aplicam modelos grandes e os resultados obtidos.
Para empresas de diferentes tamanhos, surgiram dois caminhos. As grandes instituições financeiras, que possuem uma enorme quantidade de dados financeiros e cenários de aplicação, podem introduzir modelos de base líderes do setor, construir seus próprios modelos empresariais e, ao mesmo tempo, adotar ajustes finos para formar modelos de tarefas em áreas especializadas, capacitando rapidamente os negócios para compensar a desvantagem do longo ciclo de construção de grandes modelos. As pequenas e médias instituições financeiras, por sua vez, podem considerar o retorno sobre investimento e, conforme necessário, introduzir APIs de nuvem pública de vários grandes modelos ou serviços de implantação privada, atendendo diretamente às necessidades de capacitação.
No entanto, devido às altas exigências da indústria financeira em termos de conformidade de dados, segurança e confiabilidade, algumas pessoas acreditam que o progresso da implementação de grandes modelos neste setor está, na verdade, um pouco mais lento do que o esperado no início do ano. Sun Hongjun da Softcom Power afirmou que eles inicialmente esperavam que a indústria financeira pudesse ser a primeira a usar grandes modelos em larga escala, mas, com base na situação final de integração com os clientes, o progresso na indústria financeira não é tão rápido quanto nas indústrias de direito, recrutamento, entre outras.
Algumas instituições financeiras já começaram a procurar soluções para diversas "gargalos" no processo de implementação de grandes modelos.
Por exemplo, na área de poder de cálculo, especialistas da indústria observaram que atualmente existem várias soluções no setor financeiro:
Primeiro, construir diretamente a capacidade de computação, o custo é mais alto, mas a segurança é a melhor. Adequado para instituições financeiras com forte capacidade, que desejam construir modelos de grande escala para o setor ou empresa, como alguns grandes bancos estatais.
Em segundo lugar, adotar uma abordagem de implantação híbrida, garantindo que os dados sensíveis não saiam do domínio, chamando a interface de serviço do grande modelo a partir da nuvem pública, enquanto processa o serviço de dados local através de implantação privada. Essa abordagem tem um custo relativamente baixo, exigindo apenas um investimento de algumas centenas de milhares de yuans para adquirir algumas placas GPU, o que atende às necessidades de instituições financeiras de pequeno e médio porte com recursos financeiros limitados e que aplicam conforme a demanda.
No entanto, mesmo assim, muitas pequenas e médias instituições ainda enfrentam o problema de não conseguir comprar ou não poder pagar pelas placas de GPU necessárias para grandes modelos. Para abordar essa questão, os especialistas mencionados revelaram que as autoridades reguladoras estão atualmente realizando algumas pesquisas sobre o assunto, explorando se é possível, de uma forma intermediária, liderar a construção de uma infraestrutura de grandes modelos voltada para a indústria, concentrando recursos de poder computacional e grandes modelos genéricos, para que as pequenas e médias instituições financeiras do setor também possam utilizar os serviços de grandes modelos, evitando que fiquem tecnologicamente para trás.
Além dos problemas de poder de computação, com a exploração da implementação de grandes modelos nos últimos seis meses, muitas instituições financeiras também estão gradualmente reforçando seu trabalho de governança de dados.
Um executivo de uma conhecida provedora de serviços em nuvem apresentou que, atualmente, além dos grandes bancos que já têm práticas maduras na área de governança de dados, cada vez mais instituições financeiras de médio porte também estão começando a construir plataformas de dados e sistemas de governança de dados, como alguns bancos regionais no primeiro semestre deste ano. Ele acredita que a construção de um sistema de governança de dados robusto e de uma plataforma de tecnologia de lago de dados se tornará um tema importante para a construção de TI das instituições financeiras no futuro.
Há também bancos que estão resolvendo problemas de dados através de grandes modelos + MLOps. Por exemplo, um grande banco estabeleceu um sistema de fechamento de dados de grandes modelos adotando o modo MLOps, alcançando a automação de todo o processo, bem como a gestão unificada e o processamento eficiente de dados heterogêneos de múltiplas fontes. Segundo informações, atualmente já foi construído e sedimentado um conjunto de dados de treinamento de alta qualidade de 2,6 TB.
Entrar pela cena externa
Nos últimos seis meses, tanto os prestadores de serviços de grandes modelos quanto as principais instituições financeiras têm procurado ativamente cenários de aplicação. Áreas como escritório inteligente, desenvolvimento inteligente, marketing inteligente, atendimento ao cliente inteligente, pesquisa e investimento inteligente, controle de riscos inteligente e análise de necessidades estão sendo exploradas uma a uma.
Como disse um executivo de uma conhecida empresa de tecnologia financeira, "cada função chave na cadeia de negócios financeiros merece ser refeita com tecnologia de grandes modelos." A empresa recentemente lançou um grande modelo financeiro e está em fase de testes internos com instituições parceiras para construir produtos de grandes modelos voltados para a indústria financeira, com o objetivo de criar assistentes de negócios em IA para especialistas em finanças, como consultores de investimentos, agentes de seguros, pesquisa de investimentos, marketing financeiro, e liquidação de seguros.
Cada instituição financeira tem uma rica variedade de ideias para a aplicação de grandes modelos. Um grande banco afirmou que já implementou mais de 20 cenários internamente, outro banco mencionou que realizou pilotos em mais de 30 cenários, enquanto uma corretora de valores declarou que está explorando a integração de grandes modelos com a plataforma de humanos digitais virtuais que foi lançada anteriormente...
Mas quando se trata de realmente implementar grandes modelos nos negócios, há um consenso geral de que devemos começar internamente antes de expandir para o exterior. Afinal, nesta fase, a tecnologia dos grandes modelos ainda não está madura, apresentando problemas como alucinações, e a indústria financeira é um setor altamente regulado, com alta segurança e alta confiabilidade.
"Não é recomendável usar diretamente com clientes a curto prazo." O responsável técnico de um grande banco acredita que as instituições financeiras devem priorizar a aplicação de grandes modelos em cenários de análise e compreensão de texto e imagem financeira, de forma a realizar uma colaboração homem-máquina na forma de assistente, aumentando a eficiência do trabalho dos funcionários.
Os executivos dos provedores de serviços em nuvem mencionados também afirmaram que muitos clientes do setor financeiro acreditam que assistentes de código e assistentes de atendimento ao cliente são cenários que podem gerar resultados imediatos. Já cenários como pesquisa e aconselhamento de investimentos, embora tenham um grande valor, são difíceis de mostrar resultados rapidamente e exigem dados de alta qualidade.
Atualmente, o assistente de código já foi implementado em várias instituições financeiras. Por exemplo, um grande banco construiu um sistema de desenvolvimento inteligente baseado em grandes modelos, onde a quantidade de código gerada pelo assistente de codificação representa 40% do total de código. Da mesma forma, no setor de seguros, uma companhia de seguros desenvolveu um plugin de programação assistida baseado em grandes modelos, diretamente integrado às ferramentas de desenvolvimento internas.
Baseado nisso, alguns fabricantes também estão a desenvolver produtos prontos a usar para clientes do setor financeiro, aproveitando a capacidade de geração de código dos grandes modelos. Um executivo de uma empresa de serviços de TI informou que um de seus produtos, além da capacidade de autocompletar código do grande modelo, adicionou uma série de funcionalidades como decomposição de tarefas, respostas precisas e superação das limitações de contexto, permitindo que os usuários tenham uma experiência pronta a usar. Atualmente, este produto já está a ser utilizado por mais de 3000 pessoas em um banco internacional, com uma taxa de autocompletar código entre 50% e 90%.
Na área de escritório inteligente, também há muitos casos de implementação. Um especialista de uma grande empresa de tecnologia, responsável por produtos de grandes modelos para o setor financeiro, apresentou que a funcionalidade de perguntas e respostas para agências, baseada em grandes modelos financeiros, foi lançada em julho em um grande banco e já foi gradualmente promovida para várias centenas de agências, com uma taxa de adoção de respostas superior a 85%. Atualmente, a solução padrão incubada para perguntas e respostas de documentos está sendo rapidamente replicada em vários outros bancos e instituições financeiras.
No entanto, especialistas da indústria acreditam que esses cenários que já foram amplamente implementados ainda não são aplicações centrais das instituições financeiras, e que os grandes modelos ainda estão a uma certa distância de penetrar nas camadas de negócios da indústria financeira.
"Nós mesmos julgamos que a dificuldade em aplicar isso em cenários de negócios é bastante grande." Um executivo de uma empresa de serviços de TI afirmou que cenários como marketing, gestão de riscos e conformidade são áreas onde grandes modelos podem trazer mudanças, e também são os pontos de demanda dos clientes financeiros. No entanto, na situação atual, esses trabalhos ainda dependem da capacidade de melhoria dos fornecedores de grandes modelos subjacentes antes de implementarem os cenários de negócios.
Os especialistas seniores de grandes modelos da indústria preveem que, antes do final deste ano, haverá uma série de projetos de construção ou informações de licitação sobre a aplicação real de grandes modelos em cenários de negócios centrais de instituições financeiras.
Antes disso, algumas mudanças ao nível do design superior estavam a ser realizadas.
No início de setembro, numa conferência do setor, um professor de uma universidade renomada fez o seguinte julgamento: todo o sistema inteligente e digital do futuro será reestruturado sobre a base de grandes modelos. Isso exige que a indústria financeira, ao promover a implementação de grandes modelos, reestruture seus sistemas. Ao mesmo tempo, não se pode ignorar o valor dos modelos pequenos tradicionais, devendo permitir que grandes e pequenos modelos colaborem.
Esta tendência já se manifesta amplamente na indústria financeira. "Agora as instituições financeiras estão a testar a implementação de grandes modelos, basicamente adotando um modelo em camadas." Um executivo de um fornecedor de serviços em nuvem explicou que, ao contrário do modelo de silos em que era necessário construir uma plataforma para cada cenário, os grandes modelos na verdade oferecem às instituições financeiras uma oportunidade de planejar todo o sistema de uma forma mais científica desde o início.
É possível ver que atualmente várias instituições financeiras de destaque, com base em grandes modelos, estabeleceram uma estrutura de sistema em camadas que inclui múltiplos níveis, como camada de infraestrutura, camada de modelo, camada de serviço de grandes modelos, camada de aplicação, entre outros, como vários grandes bancos, corretoras e companhias de seguros.
Esses frameworks geralmente têm duas características marcantes: em primeiro lugar, os grandes modelos desempenham a capacidade central, utilizando modelos tradicionais como habilidades; em segundo lugar, a camada dos grandes modelos adota uma estratégia de múltiplos modelos, realizando uma competição interna para selecionar o melhor desempenho.
Na verdade, não são apenas as instituições financeiras; em um cenário de incerteza atual, alguns fornecedores de aplicações de grandes modelos também estão adotando uma estratégia de múltiplos modelos para otimizar os resultados dos serviços. Um executivo de uma empresa de serviços de TI revelou que a sua camada de modelos subjacentes também integra uma grande quantidade de grandes modelos de linguagem, e que irá montar as respostas otimizadas a partir das respostas de cada grande modelo para apresentar aos usuários.
A lacuna de talentos continua a ser enorme
A aplicação de grandes modelos já começou a trazer alguns desafios e mudanças na estrutura de pessoal da indústria financeira.
Anteriormente, um representante de uma empresa de tecnologia financeira em Xangai afirmou que, com o surgimento do ChatGPT, desde o início deste ano até o final de maio, a empresa dele já havia demitido mais de 300 analistas de big data. E há alguns anos, esta ainda era uma profissão muito procurada. Isso gerou ansiedade nele, a ponto de ele começar a considerar antecipadamente a futura escolha profissional da sua filha.
Um veterano do setor financeiro de um grande banco também compartilhou os efeitos de substituição das pessoas pelos grandes modelos. Anteriormente, todos os dias de manhã, estagiários reuniam e resumiam informações de várias áreas, que eram então entregues às pessoas do departamento de pesquisa e investimento, mas agora esse trabalho dos estagiários pode ser realizado pelos grandes modelos.
No entanto, alguns bancos na verdade não desejam que os grandes modelos resultem em cortes de pessoal. Por exemplo, um grande banco com 200.000 funcionários em agências deixou claro para os fornecedores de tecnologia que não desejam que os funcionários sejam substituídos por grandes modelos, mas sim que os grandes modelos tragam novas oportunidades, melhorem a qualidade do serviço e a eficiência do trabalho dos funcionários, ao mesmo tempo que liberam alguns funcionários para que possam realizar tarefas de maior valor.
Isto inclui considerações sobre a estabilidade das pessoas e estruturas. Mas, por outro lado, também se deve ao fato de que há ainda lacunas de talentos em muitos cargos dentro da indústria.
Um executivo de uma empresa de serviços de TI afirmou que grandes bancos têm uma quantidade significativa de trabalho não concluído, com prazos para algumas demandas de TI se estendendo até o final do próximo ano. Eles esperam que modelos grandes ajudem os funcionários a concluir mais trabalho, aumentando a eficiência e a velocidade, em vez de resultar em redução de pessoal.
mais