Skymizer 推出加速器 IP——EdgeThought，以加速LLM设计
ninehua 2024-12-15 15:58 40 浏览
据美通社5月31日报道，编译器技术和优化解决方案的先驱Skymizer宣布发布其革命性的软硬件协同设计AI ASIC IP--EdgeThought，专为加速边缘大型语言模型（LLM）而设计。这项尖端创新利用 Skymizer的先进编译器技术，在计算、内存利用率、电源效率和成本效益方面树立了新的行业基准。
EdgeThought旨在提高LLM应用程序在各种边缘设备中的性能，从物联网设备到汽车系统和AI PC/AI边缘服务器等。通过使用以编译器为中心的方法优化 EdgeThought 设计，Skymizer 的解决方案确保这些设备可以运行最先进的设备端 LLM 模型，包括最新的 Llama3 8B。
“对Skymizer来说是一个重要的里程碑，而且对整个AI和边缘计算行业来说都是一个重要的里程碑，”Skymizer首席执行官Jim Lai说。“创新的 LLM 加速器重新定义了边缘 AI 性能的可能性，使其更易于访问且具有成本效益。”
EdgeThought消除了所有软件和硬件的培训需求，只专注于推理。其结果是一流的设备端 LLM 推理引擎。“如果Groq芯片是云LLM推理之王，那么EdgeThought将成为设备上LLM推理的游戏规则改变者，”Skymizer的CMO兼执行副总裁William Wei说。“EdgeThought不需要最新的硅制造工艺，就可以实现更便宜的成熟硅类和专用存储器组件，这将在GenAI时代振兴那些更便宜的存储器行业。”
（编译：andy）
相关推荐
- CTF-Web:xxe+jar协议缓存实现命令执行
-
0x01代码分析object方法object方法通过@RequestParam注解获取object参数，然后根据该参数拼接出一个文件路径file:///home+object。接着调用check...
- 利用GPT4-V及Langchain实现多模态RAG
-
多模态RAG将是2024年AI应用架构发展的一个重要趋势，在前面的一篇文章里提到llama-index在这方面的尝试《利用GPT4-V及llama-index构建多模态RAG应用》，本文[1]中将以另...
- 爱普生打印机清洗喷头方法（爱普生自动清洗喷头）
-
晚上一个客户微信问我，用的爱普生的L3158喷墨打印机，说墨水还那么多了，打印出来字体都成空心字了。是怎么回事。我一想，肯定是好长时间没有用了，喷头堵了。那问题来了，怎么清洗喷头了，我只有把各种...
- 爱普生打印头堵了怎么办?教你好方法
-
相信有很多的小伙伴，遇到过打印机打印头堵了，不知道怎么办？现在就来试试这种方法！这种方法适合爱普生的喷墨打印机，我的就是L系列的墨仓式打印机，半年没用，有两种颜色打印不出来了！首先双击打印机，点击喷墨...
- 好评收割机 四款京东脱销原厂连供打印机横评
-
新一代连供功能有啥区别2020年新年以来，买打印机成了热门话题，而既能在家里派上用场又适合办公室用的原厂连供打印机频频出现脱销，也说明这个品类确实得到了大家的认可。打得多、墨水便宜、价格实惠、能彩打...
- 韩剧悬疑剧的天花板，每年都值得重刷一遍!一部绝不能快进的剧
-
喜欢看悬疑剧的小伙伴们，一定都看过韩剧《信号》。今天要给大家强烈推荐的就是这部剧，到目前为止，还是悬疑剧的天花板《信号》。可以说，自从《信号》播出之后，很多剧都在模仿它，但真的一直都没法超越！剧名：信...
- 德鲁纳酒店几点更新?韩剧德鲁纳酒店资源下载在哪里看
-
德鲁纳酒店晚上几点更新周六晚9时tvN（北京时间8时）！韩剧《德鲁纳酒店》是tvn新出的周末剧，和之前的《阿斯年年代记》相比，第一集反响要好很多，很多人说韩剧第一集好像都是这个样子，第一集通常会交代各...
- 盘点10部烂尾的韩剧，《二十五，二十一》、《雪降花》上榜
-
相信追韩剧是许多人平日纾解压力，在闲暇之余喜欢做的事情。追剧时最怕追到前面好看，但最后却以烂尾结束的剧，追完真的会很沮丧！今天小编就要来盘点10部「雷声大雨点小」的韩剧，就让我们一起来看看有哪些韩剧上...
- 私藏追剧看电影免费资源网站分享，请低调使用
-
想必很多朋友在休息的时候，都喜欢看看电影视频之类的。今天就给大家分享几个免费的电影网站，让你享受2020年最新上映大片,在线观看各大VIP电影,电视剧,综艺,动漫资源视频,提供迅雷下载,完美支持电脑手...
- 8集评分飙上8.7!失忆梗拍出新花样，韩剧又让人欲罢不能!
-
以前提起韩剧的时候，观众总会调侃：韩剧有三宝，车祸失忆治不好。虽说狗血，但确实是早期韩剧的精髓，吸引一批又一批观众前往观看，《蓝色生死恋》、《对不起我爱你》便是极为经典的例子。现在情况有些不一样。随着...
- 推荐7部「超高分悬疑推理韩剧」，每部都高糖又暖心
-
最近韩剧一部接一部，每部都高糖又暖心，悬疑迷也可别闲著！今天跟大家推荐7部「超高分悬疑推理韩剧」，让大家刷剧不怕踩雷，有悬疑迷心中的经典《信号》，还以小众高分推理剧《365：逆转命运的1年》，部部精彩...
- 大尺度韩剧终于回归，一集封神（大尺度韩剧终于回归,一集封神的电视剧）
-
网飞真的太爱韩国了。不仅豪掷千金，搞大场面、大制作；题材全都是大尺度、敏感阴暗，直击痛点。前两年，有一部神剧，刚开播就爆了，甚至还引发了司法修订。终于等到「他」续集上演——D.P：逃兵追缉令第二季....
- 韩剧甜度爆表单身也要看的剧（求甜到腻死人的韩剧）
-
【高糖警报！这部韩剧甜度爆表，让你全程姨母笑不停！】天哪！我发现了什么宝藏韩剧？《恋爱虽然麻烦但更讨厌孤独》简直是冬日里的一把火，温暖又甜蜜，看得我心跳加速，嘴角上扬！一个因为听了无数恋爱故事，想恋爱...
- 全程开车，以暴制暴，韩剧又憋不住了
-
某年，韩国。一位女子，想要自杀。她颤颤巍巍，爬上大桥边缘。正当她想要一跳了之时…却发现，脚底下，一块奇怪的牛皮癣：不要死，去复仇吧，我们替您解决！还有这种事？于是，绝望的她，拨通了那个电话…没想到，还...
- 近期十套韩剧推荐 金秀贤新作不是粉丝都会看
-
要经常留在家中做“宅男”、“宅女”，如果不知道可以做什么消遣时间的话，不妨打开电脑看看近期最热的韩剧！现在为大家搜罗几部今年话题度很高的高质韩剧。《虽然是精神病但没关系》由金秀贤和徐睿知主演。金秀贤在...