在软件系统的演进过程中，随着业务规模扩大和架构复杂度提升，数据访问层往往最先变得“失控”。 我们不仅要面对 多种数据库（关系型、文档型、图数据库、宽列存储等），还必须同时适应 多种查询模型： •SQL 的 JOIN•文档数据库的嵌套与投影•图数据库 ...

本项目是记录自己在学习研究Java安全过程中遇到的优秀资源，包括Java安全的多个细分领域，如Java漏洞分析和Java代码审计以及Java开发的应用程序组件协议甚至Java本身的安全问题等。一个不能攻击Java的黑客不是一个好黑客，一个不懂Java安全的师傅不是一个好师傅！

今天我们所介绍的 GraphQL 具备的功能特性能够在一定程度上解决传统开发模式中所存在的一些问题。GraphQL 更加具有灵活性和扩展性，并能显著减少前后端交互所需要的沟通和开发成本。 当下，前后端分离是互联网应用程序开发的主流做法，如何设计合理且高效 ...

清华研究团队打造时序分析大模型Timer。 大模型在语言、图像领域取得了巨大成功，时间序列作为多个行业的重要数据类型，时序领域的大模型构建尚处于起步阶段。近期，清华大学的研究团队基于Transformer在大规模时间序列上进行生成式预训练，获得了任务 ...

本文来自微信公众号：Afunby的 AI Lab（ID：AI_Lab_of_Afunby），作者：Afunby，原文标题：《图解 Transformer——多头注意力》，题图来自：视觉中国 本文为图解 Transformer 的第三篇文章。在前两篇文章中，我们学习了何为 Transformer，其架构及工作原理。本文将在此基础上 ...

本文来自微信公众号：Afunby的 AI Lab（ID：AI_Lab_of_Afunby），原标题《图解 transformer——逐层介绍》，作者：Afunby，题图来自：视觉中国 为了深入理解每个组件的作用，在翻译任务中step-by-step地训练Transformer。使用只有一个样本的训练数据，其中包括一个输入序列 ...

谁曾想过，引发人工智能革命的突破竟源自一个改进机器翻译的想法？ 智东西8月21日消息，据英国《金融时报》报道，被称为“ChatGPT奠基之作”的著名架构Transformer的八位作者均已离开谷歌。Transformer的发布如同人工智能领域的“宇宙大爆炸”。八位研究人员都 ...

本文由加州大学伯克利分校统计系和谷歌 DeepMind 的团队联合发表，研究了预训练后的 Transformer 的基于上下文学习 (In-Context Learning) 的能力。他们用简洁的数学理论证明了：Transformer 可以基于上下文学习到一种类似最小二乘的算法，这种学到的算法在新的数据集上 ...

原文标题：《Transformer 全新里程碑！诞生 6 年，开山之作被引近 8 万，没夺下 NeurIPS 最佳论文，却彻底改变 AI 界》 Transformer，6 岁了！2017 年，Attention is All You Need 奠基之作问世，至今被引数近 8 万。这个王者架构还能继续打多久？ 2017 年 6 月 12 日，Attention is All ...

本周主要论文包括：上海交通大学、Digital Brain Lab、牛津大学等的研究者用新型 Transformer 架构解决多智能体强化学习问题；ICRA 2022 最佳论文出炉，美团无人机团队获唯一最佳导航论文奖等研究。 摘要：如何用序列模型解决 MARL（多智能体强化学习） 问题？