Transformer

Transformer使用注意力机制处理序列信息，能够并行训练，并成为许多大语言模型和多模态模型的基础。

应用路线

预训练模型可以通过提示、RAG、微调和工具调用构建AI应用。