agºÍ¼Ç

À´Ô´£º¹ÉƱ £¬×÷Õߣº  £¬£º

à¸ÄãÏþµÃû £¬´ºÔ˵Äʱºò¹ðÁÖ±±Õ¾ÄDZ߼òÖ±È˼·µ½ÂѶ¼·É £¬ÓÈÆäÊǸϳµµÄÄÇЩÌì £¬Õ¾Ç°¹ã³¡ÈÈÄÖµÃÏñ¸ÏÛ×Ò»Ñù ¡£½²Æð±±Õ¾ÅüÃæÄÇÌõÏï×Ó £¬°¥Ó´ £¬²»ÏþµÃÄãÓÐûÓнøÈ¥¹ý£¿Ìý½²ÀïÃæ²ØÁ˲»ÉٺóԵÄ £¬ÕæÊǸö¶£Ööºò³µÊ±¼äµÄºÃµØ·½ ¡£ÄǾ¿¾¹¹ðÁÖ±±Õ¾ÅüÃæÏï×Ó½Ðʲô£¿½ñÌì¾Í¸úÄãϸ´µÏÂ×Ó ¡£

¹ðÁÖ±±Õ¾ÅüÃæÏï×ÓµÄÃû×Ö £¬½Ð¡°½ð¼¦Ï

¶ªÄÇÐÇ £¬²îµãû¼ÇÆð¸úÄã½² £¬¹ðÁÖ±±Õ¾ÅüÃæÄÇÌõÏï×Ó £¬ÕýʽÃû×ֽС°½ð¼¦Ï ¡£ÄãÊDz»ÊǾõµÃÃû×ÖÓеãÆÕͨ£¿ÂÑ £¬½²ÆðÀ´Ò²È·ÊµÃ»É¶ÌرðµÄ £¬µ«ÀïÃæµÄÄÚÈݲÅÊǵð¸Ü£¡ßÖ £¬Ïï×Ó²»¿í £¬Á½±ß°ÚÂúÁËС³Ô̯ ¡£Ê²Ã´ÂÝòÏ·Û¡¢ÉÕ¿¾¡¢Ã×·Û £¬ÏÕЩÑùÑù¶¼ÓÐ ¡£

Ïà¹ØÍ¼Æ¬

ุúÄ㽲࣠£¬ÕâÌõÏï×ÓÊÇÐí¶à¸Ï³µÈ˺ÍÍâµØÈËÏüÒ¹µÄºÃÈ¥´¦ ¡£ÄãÏë°¡ £¬¸Ï³µÇ°À´ÍëÂÝòÏ·Û £¬ËáÀ±¿ªÎ¸ £¬³ÔÍ꾫Éñ¶¶ËÓ£»»òÕ߿иö¹ðÁÖ¿¾Ñ¼½Å £¬ÂéÖ±Ïã ¡£¸ü×ÓÂѸ㷨 £¬ÕâµØ·½±È³Ã÷ÈÕ¾ÄÇЩ¹óËÀÈ˵ÄÁ¬ËøµêÒª»®Ëã¶àÁË £¬»¹ÄÜÌåÑéÍâµØÉú»î ¡£

½ð¼¦ÏïµÄÒþ²ØÃÀʳ £¬²»³¢¿÷´ó·¢

½²ÕæµÄ £¬½ð¼¦ÏïÀïÃæÓм¸¼Òµê £¬¼òÖ±¾ÍÏñ²Ø×ŵķÏÎï ¡£ºÃ±ÈÓмÒÂôÃ×·ÛµÄ £¬ÌÀµ×ÄǽÐÒ»¸öŨÓô £¬³ÔµÃÈËˬµ½ÂѶ¼µø ¡£ÁíÓÐһ̯רÃÅÂôըС³ÔµÄ £¬Õ¨Ñ¼Éà¡¢Õ¨³ô¶¹¸¯ £¬ÍâËÖÀïÄÛ £¬ÕºµãÌØÖÆÀ±½´ £¬¼òÖ±¹ýÁú£¡

¶ªÄÇÐÇ £¬ÓдÎÎÒÅóÓÑ´øÎÒÈ¥ÊÔÁËÒ»¼ÒÂôÌÇÓÍôÎôεÄ £¬ÍÛ £¬ÄǿڸÐÒ»Á÷ £¬ÍâÆ¤´àµÃÒ§ÏÂÈ¥¸ÂàÔÏì £¬Ìǽ¬Ìð¶ø²»Äå £¬ÂѺóԵòîµãÒ§µôÉàÍ· ¡£ÎÒ¹À¶Ñ £¬ÕâЩС̯ÊÇÕæÕýµÄÐÑÁúËùÔÚ £¬Ã»ÐÅÄã¿ËÊÔÏÂ×Ó ¡£

Ïà¹ØÍ¼Æ¬
ÐÑÁúµã£ºÏï×ÓÀïÓÐЩ̯×ÓÊÇÍíÉϲſª £¬Ïë³ÔÏüÒ¹µÄ×îºÃÍíµã¿Ë £¬Ã»È»ÄãÖ»ÄÜ¿ÐÀä·¹ ¡£

´ºÔ˹ðÁÖ±±Õ¾µÄÈ˳± £¬Ïï×Ó³ÉÁ˱ܷç¸Û

´ºÔËÂï £¬ÄãÏþµÃµÄ £¬±±Õ¾È˶ൽÂѶ¼¼·µÃ·ÉÆðÀ´ ¡£µÈ³µµÄÈË¡¢ËÍÈ˵Ä £¬È«¶ÑÔڹ㳡ÉÏ £¬ÆßºÚ°ËºÚµÄ ¡£Õâ¸öʱºò £¬½ð¼¦Ïï¾Í³ÉÁ˸ö±Ü·çµÄµØ·½ £¬ÓÈÆäÊÇÄÇЩµÈ³µÊ±¼ä³¤µÄ £¬½øÀ´×ªÒ»È¦ £¬³Ôµã¹¤¾ß £¬Ïûĥʱ¼ä £¬Êæ·þµÃºÜ ¡£

¿ÉÊÇßÖ £¬Ïï×ÓÔٺà £¬´ºÔËҲȷʵÓе㼷 £¬ÌرðÊÇ·¹µãʱ¼ä £¬Ì¯×ÓÇ°ÃæÅŶӵͼ¸ú³¤ÁúÒ»Ñù ¡£ÄãÒªÊǸÏʱ¼ä £¬½¨Òé¿ËÔçµã £¬Ã»È»ÂÑÓö¼Ã» £¬ÅŶÓÅŵ½ÄãÏëÂîÈË ¡£


Ïà¹ØÍ¼Æ¬

¡°½ð¼¦ÏïÀïÃæÄĸö̯×Ó×îÖµµÃ³Ô£¿¡± ´ðÄã¶¼À§ £¬ÂÑÓö¼Ã»£¡Äã¾Í¼Ç×Å £¬ÄļÒ̯×ÓÈË×î¶à¾ÍÈ¥ÄļÒ £¬×¼Ã»²È¿Ó ¡£

¹ðÁÖ±±Õ¾, ½ð¼¦Ïï, ´ºÔËÃÀʳ, ¹ðÁÖС³Ô, ÃÀʳ¹¥ÂÔ

¡¶È«¹úÆ·²èÄ۲衷

ETFÓöÈÏà¹ØËµÃ÷£ºÍ¶×ÊÕßÔÚÉ깺»òÊê»Ø»ù½ð·Ý¶îʱ £¬É깺Êê»ØÊðÀí»ú¹¹¿Éƾ¾Ý²»Áè¼Ý0.5%µÄ±ê×¼ÊÕȡӶ½ð £¬ÆäÖаüÀ¨Ö¤È¯½»Ò×Ëù¡¢¹ÒºÅ»ú¹¹µÈÊÕÈ¡µÄÏà¹ØÓÃ¶È ¡£

¡¶±±¾©¼æÖ°Â¥·ïÂÛ̳¡·

ÈÕǰ £¬ÓÉXiaoyu MaºÍDavid PattersonÁªºÏÊðÃûµÄÎÄÕ¡¶Challenges and Research Directions for Large Language Model Inference Hardware¡·ÕýʽÐû²¼ ¡£ÕâÆªÎÄÕ±»Ðû²¼ÒÔºó £¬ÒýÆðÁ˹㷺¹Ø×¢ ¡£ÎÄÕÂÖÐ £¬×÷ÕßÎ§ÈÆLLMÍÆÀíоƬµÄÌôÕ½ÒÔ¼°½â¾ö¼Æ»® £¬¸ø³öÁ˽¨Òé ¡£

¡¶æÎµÄ¼ÛλºÍЧÀÍÄÚÈÝ¡·

ÅÌÃæÉÏ £¬ÓÐÉ«½ðÊô¡¢´ó½ðÈÚ¡¢ÓÍÆø¿ª²É¡¢¶¯Îï±£½¡µÈ°å¿éÕÇ·ù¾Óǰ £¬º½Ìì×°±¸¡¢²£Á§»ù°å¡¢²©²Ê¿´·¨¡¢È˹¤ÖÇÄܵȰå¿éµø·ù¾Óǰ ¡£

ÍøÕ¾µØÍ¼