Infográfico de arquitetura DeepSeek V3 vs V4

{ "type": "Infográfico de comparação lado a lado de arquiteturas de IA", "style": "Gráficos técnicos simples, fundo branco, contorno preto fino, retângulos arredondados, caixas de anotação tracejadas, destaques codificados por cores, estilo de apresentação, infográficos vetoriais.", "canvas": { "aspect_ratio": "2:1", "resolution": "Largura horizontal" }, "title_row": { "left_title": "DeepSeek V3/R1 (671 bilhões de parâmetros)", "right_title": "DeepSeek V4 (1,2 trilhão de parâmetros)", "left_title_color": "Vermelho-laranja brilhante", "right_title_color": "Azul brilhante" }, "layout": { "columns": 2, "sections": [ { "title": "DeepSeek V3/R1 (671 bilhões de parâmetros)", "position": "metade esquerda", "count": 9, "labels": [ "Tamanho do vocabulário 129k", "Módulo FeedForward (SwiGLU)", "A camada oculta intermediária tem uma dimensão de 2.048.", "Camada MoE", "Suporta comprimento de contexto de token de 128k", "Os três primeiros blocos usam uma FFN densa com um tamanho oculto de 18.432 em vez de MoE.", "Exemplo de entrada de texto", "Dimensão de incorporação 7.168", "128 cabeças de atenção" ] }, { "title": "DeepSeek V4 (1,2 trilhão de parâmetros)", "position": "metade direita", "count": 9, "labels": [ "Tamanho do vocabulário 160k", "Módulo FeedForward (SwiGLU)", "A camada oculta intermediária tem uma dimensão de 3.072.", "Camada MoE", "Suporta comprimento de contexto de token de 256k", "Os três primeiros blocos usam uma FFN densa com um tamanho oculto de 24.576 em vez de MoE.", "Exemplo de entrada de texto", "Dimensão de incorporação 8.192", "128 cabeças de atenção" ] }, { "title": "Tabela de comparação inferior", "position": "Largura total inferior", "count": 10, "labels": [ "Número total de parâmetros", "Número de parâmetros ativos por token", "Tamanho da camada oculta", "Dimensão de exemplo", "DeepSeek V3/R1", "Camada intermediária (FF)", "Atenção", "Comprimento do contexto", "Dimensão incorporada", "Tamanho do vocabulário" ] } ] }, "left_panel": { "background": "Retângulo arredondado cinza claro", "main_stack": { "count": 8, "blocks": [ "Texto tokenizado", "Camada de incorporação de tokens", "RMSNorm 1", "Atenção potencial multi-cabeça (MLA)", "RMSNorm 2", "MoE", "Ultimately, RMSNorm", "Camada de saída linear" ] }, "side_module": "RoPE conecta-se ao bloco de atenção à esquerda.", "attention_block": { "label": "Atenção potencial multi-cabeça (MLA)", "accent": "A palavra "Latent" é exibida em letras vermelho-alaranjadas." }, "feedforward_inset": { "title": "Módulo FeedForward (SwiGLU)", "count": 4, "blocks": [ "camada linear", "Função de ativação SiLU", "camada linear", "camada linear" ], "diagram": "Multiplique os dois ramos e, em seguida, projete-os." }, "moe_inset": { "title": "Camada MoE", "count": 5, "blocks": [ "Nó composto superior", "Rede feedforward", "Rede feedforward", "routing", "Insígnia de Contagem de Especialistas 256" ], "details": "Um pequeno quadrado preto com um especialista selecionado, uma seta apontando para o especialista e uma linha tracejada como separador." }, "anotações": { "vocabulário": "Tamanho do vocabulário: 129k", "dim_ff": "A camada oculta intermediária tem uma dimensão de 2.048.", "contexto": "Suporta comprimento de contexto de token de 128k", "primeiros_blocos_densos": "Os três primeiros blocos usam uma FFN densa com um tamanho oculto de 18.432 em vez de MoE.", "economia_de_recursos": "Economia de recursos: O tamanho do modelo é de 671 bytes, mas cada token ativa apenas 1 (compartilhado) + 8 especialistas; apenas 37 bytes de parâmetros são ativados por etapa de inferência." }, "bottom_stats": { "count": 10, "items": [ "Número total de parâmetros: 671B", "Parâmetros de atividade por token: 37B (1 + 8 especialistas)", "Tamanho da camada oculta: 7.128", "Dimensão de exemplo: 28.432", "Camada intermediária (FF): 2.048", "Atenção: 128", "Comprimento do contexto: 128k", "Dimensão de incorporação: os 3 primeiros blocos", "Comprimento do contexto: 22G7", "Tamanho do vocabulário: 129k" ] } }, "right_panel": { "background": "Retângulo arredondado azul claro", "main_stack": { "count": 8, "blocks": [ "Texto tokenizado", "Camada de incorporação de tokens", "RMSNorm 1", "Atenção potencial multi-cabeça (MLA)", "RMSNorm 2", "MoE", "Ultimately, RMSNorm", "Linear output layer" ] }, "side_module": "RoPE connects to the attention block on the left.", "attention_block": { "label": "Multi-head potential attention (MLA)", "accent": "The word \"Latent\" is in blue text." }, "feedforward_inset": { "title": "Módulo FeedForward (SwiGLU)", "count": 4, "blocks": [ "camada linear", "função de ativação SiLU", "camada linear", "camada linear" ], "diagram": "Mesma estrutura do painel esquerdo" }, "moe_inset": { "title": "Camada MoE", "count": 5, "blocks": [ "Nó composto superior", "Rede Feedforward", "Rede Feedforward", "roteamento", "Distintivo de Contagem de Especialistas 384" ], "details": "Um pequeno quadrado preto com um especialista selecionado, uma seta apontando para o especialista, um separador tracejado e uma borda azul para ênfase." }, "anotações": { "vocabulário": "Tamanho do vocabulário: 160k", "dim_ff": "A camada oculta intermediária tem uma dimensão de 3.072.", "contexto": "Suporta comprimento de contexto de token de 256k", "primeiros_blocos_densos": "Os três primeiros blocos usam uma FFN densa com um tamanho oculto de 24.576 em vez de MoE.", "economia_de_recursos": "Economia de recursos: O tamanho do modelo é 1,2T, mas cada token ativa apenas 1 (compartilhado) + 8 especialistas; apenas 52 bilhões de parâmetros são ativados por etapa de inferência." }, "bottom_stats": { "count": 10, "items": [ "Total de parâmetros: 1,2T", "Parâmetros de atividade por token: 52B (1 + 8 especialistas)", "Tamanho da camada oculta: 7,2B", "Dimensão de exemplo: 28.432", "Camada intermediária (FF): 3.072", "Atenção: 128", "Comprimento do contexto: 256k", "Dimensão de incorporação: os 3 primeiros blocos", "Comprimento do contexto: 22G7", "Tamanho do vocabulário: 160k" ] } }, "global_notes": "Crie um diagrama de comparação de arquitetura Transformer altamente detalhado usando um layout espelhado. Cada metade contém um grande diagrama de pilha de modelo e duas ilustrações: um módulo feedforward e uma camada MoE. Use setas entre os blocos, adicione pequenos rótulos técnicos e use linhas de conexão para vincular os rótulos aos componentes relacionados. Mantenha a tipografia compacta e semelhante a uma apresentação, usando Laranja-avermelhado para todas as versões V3/R1 e azul para todas as versões V4. Inclua uma tabela de métricas compacta que ocupe toda a largura na parte inferior. Mantenha o estilo infográfico ligeiramente imperfeito, desenhado à mão, com texto pequeno e anotações densas.