【外国公司对特定外国制造的半导体设备及其下游产品和组件提起337调查申请】财联社2月25日电，爱尔兰Longitude Licensing Ltd.、Marlin Semiconductor Limited公司 ...

朋友们！今天必须给你们分享一个AI圈的热点事件！ 清华大学的KVCache.AI团队搞了个叫KTransformers的开源项目，直接让咱们这些普通玩家也能在家用一 ...

量化与算子优化：采用4bit量化技术，配合Marlin GPU算子，效率提升3.87倍；CPU端通过llamafile实现多线程并行，预处理速度高达286 tokens/s。 CUDA Graph加速 ...