熔融石英（Fused Silica）是无定形二氧化硅，是在20世纪初由德国人奥托·舒特开发出来的一种新型材料。由于其优异的物理和化学性质，使得它在光电子、半导体、航空航天等领域得到了广泛的应用。 熔融石英是通过高温熔融天然石英砂或者硅酸盐，然后通过 ...

SigLIP是一个很棒的工作，作者采用sigmoid损失去取代对比学习中的softmax函数，以更小的资源开销带来了更好的模型表现，目前也被很多多模态大模型所采用，作为视觉端的编码器。 DeepMind对CLIP改进的一篇工作--SigLIP，发表在2023CVPR。 简单看下研究动机：传统的 ...

ByteTransformer 同样使用该算法去除对 attention 外矩阵乘的额外计算。 为了优化 attention 部分的性能，ByteTransformer 中实现了 fused multi-head attention 算子。对于 seqlen 长度，以 384 为界划分为两种实现方式: 对于短 seqlen, 因为可以把 QK 整行放在共享内存进行 softmax 操作 ...

该工作使构建高效的多模态脉冲感知系统成为可能，为发展高智能机器人技术提供了新思路。 相关成果以A Heterogeneously Integrated Spiking Neuron Array for Multimode-Fused Perception and Object Classification为题发表在Advanced Materials上。相关工作得到国家重点研发计划、国家自然 ...

该研究为高激光损伤阈值熔石英元件的加工提供新思路。 相关研究成果以Ground fused silica processed by combined chemical etching and CO 2 laser polishing with super-smooth surface and high damage resistance为题，发表在Optics ...

[导读] 摘 要： 使用分段非线性逼近算法计算超越函数，以神经网络中应用最为广泛的Sigmoid函数为例，结合函数自身对称的性质及其导数不均匀的特点提出合理的分段方法，给出分段方式同逼近多项式阶数对逼近结 摘 要： 使用分段非线性逼近算法计算超越函数 ...

本文将讨论如何应用Sigmoid函数或Softmax函数处理分类器的原始输出值。 神经网络分类器 分类算法有很多种，但本文讨论的内容只限于神经网络分类器。分类问题可通过不同神经网络进行解决，如前馈神经网络和卷积神经网络。 应用Sigmoid函数或Softmax函数 神经 ...