99科技给大家分享各类生活学习资讯!
您现在的位置是: 首页 > 智能硬件 > Etched开发全球首款Transformer专用ASIC芯片Sohu

Etched开发全球首款Transformer专用ASIC芯片Sohu

6月26日,人工智能初创公司Etched宣布成功完成1.2亿美元(约合人民币8.73亿元)的A轮融资,这笔资金将主要用于开发和销售全球首款专为Transformer设计的专用集成电路(ASIC)芯片Sohu。

Etched 公司由两名哈佛大学辍学生加文・乌伯蒂(Gavin Uberti)和克里斯・朱(Chris Zhu)创立,成立时间不到 2 年时间。

Sohu 芯片最大的亮点在于直接把 Transformer 架构蚀刻到芯片中,乌伯蒂称 Sohu 采用台积电的 4 纳米工艺制造,推理性能大大优于 GPU 和其他通用人工智能芯片,同时能耗更低。

在 Llama 70B 吞吐量中,搜狐每秒可处理超过 50 万个 tokens,让用户可以构建 GPU 无法实现的产品。

Sohu 能够实现实时语音代理、毫秒级处理数千字文本、更强大的代码树搜索、并行比较数百个响应、多播推测解码以及实时生成新内容等功能,为未来万亿级参数模型的运行提供了可能。

Etched开发全球首款Transformer专用ASIC芯片Sohu

韩国政府命令华城电池厂全面停产整顿:因严重火灾及重大人员伤亡事故

2024/6/26 11:31:39

社交媒体使用与“先买后付”服务让用户陷进债务陷进

2024/6/26 11:37:13