±ÈӢΰ´ï¿ì10±¶µÄAIоƬÎÊÊÀ ¸ÅÄîÁúÍ·ÒÑÆð·É

¹ÉÊÐÐÐÇé 2024-02-21 19:10½ñÈÕ¹ÉÊÐÐÐÇéwww.xyhndec.cn
    ¡¡Ö÷Á÷´æ´¢ÑÓÐøÕǼÛÇ÷ÊÆ¡£
¡¡¡¡ÊÜÍâΧAIÌâ²ÄÈ«Ïß±©ÕÇÓ°Ï죬A¹É½ÚºóÏà¹ØÌâ²ÄÒ²´ó·ù·´µ¯¡£ÉêÍòÒ»¼¶ÐÐҵͨÐÅ¡¢´«Ã½Á½´óÖ¸Êý½Úºó¾ù´óÕdz¬7%£¬¸ß¾ÓÕÇ·ù°ñǰ¶þ£¬¼ÆËã»úÖ¸Êý´óÕdz¬4%£¬Î»¾ÓÕÇ·ù°ñµÚËÄ¡£¸ÅÄîÕÇ·ù¸üΪÃÍÁÒ£¬¶àģ̬ģÐÍÖ¸Êý´óÕdz¬16%£¬10¶à¸öÏà¹ØÖ¸ÊýÕdz¬10%¡£²¿·Ö¸ö¹É´ó·ùì­Éý£¬»á³©Í¨Ñ¶¡¢ÖÐÎÄÔÚÏß¡¢µ±ºç¿Æ¼¼µÈÁ½Ìì´óÕdz¬40%¡£
¡¡¡¡×òÈÕAIÌâ²ÄÔÙÆØ´óÏûÏ¢£¬Ò»¼ÒÃûΪGroqµÄ³õ´´¹«Ë¾ÔÚAIȦ±¬»ð£¬Æä¿ª·¢µÄLPUÍÆÀíÒýÇæ£¬ÍÆÀíËٶȽÏӢΰ´ïGPUÌá¸ß10±¶£¬³É±¾Ö»ÓÐÆä1/10¡£ÔÚ´ËÏûÏ¢Ó°ÏìÏ£¬×òÈÕÏà¹Ø¸ö¹ÉβÅÌì­Éý£¬Î÷²â²âÊԺͱ±¾©¾ýÕý¼±ËÙ20cmÕÇÍ£¡£
¡¡¡¡±ÈӢΰ´ï¿ì10±¶µÄAIоƬÎÊÊÀ
¡¡¡¡Ä¿Ç°£¬AIоƬÊг¡Ö÷ÒªÊÇÓÉӢΰ´ïÖ÷µ¼£¬H100Ò²¹«ÈÏÊÇѵÁ·´óÓïÑÔÄ£ÐÍ×îÐèÒªµÄGPU¡£ÔÚAI´ó·¢Õ¹µÄ±³¾°Ï£¬Ó¢Î°´ïÒµ¼¨¹É¼Û˫˫±©ÕÇ¡£»ª¶û½ÖÔ¤¼ÆÓ¢Î°´ïµÚËIJƼ¾ÓªÊÕ³¬¹ý200ÒÚÃÀÔª£¬ÊÇÉÏÄêͬÆÚ60.5ÒÚÃÀÔªµÄ3±¶¶à£¬ÆäÒµ¼¨Ò²½«ÓÚ±±¾©Ê±¼ä2ÔÂ22ÈÕ¹«²¼¡£¹É¼Û·½Ã棬ÔÚÈ¥Äê´óÕÇ239%µÄÇé¿öÏ£¬½ñÄêӢΰ´ï¹É¼ÛÔٶȱ©Õdz¬40%£¬×îÐÂÊÐÖµ³¬1.7ÍòÒÚÃÀÔª£¬Ò»¶È³¬¹ý¹È¸è¡¢ÑÇÂíÑ·³ÉΪÃÀ¹ÉµÚÈý´ó¹«Ë¾¡£
¡¡¡¡¿´ºÃAIÊг¡µÄ¹ãÀ«¿Õ¼ä£¬Î¢Èí¡¢¹È¸è¡¢AMD¡¢Ó¢ÌضûµÈ¾ÞÍ·Ò²·×·×·¢Á¦AIоƬҵÎñ¡£¾Ý±¨µÀ£¬¿Æ¼¼¾Þͷ΢Èí¹«Ë¾ÕýÔÚ¿ª·¢Ò»ÖÖеÄÍø¿¨£¬ÓÃÀ´Ìá¸ßÆäÈ˹¤ÖÇÄÜоƬMaiaµÄÐÔÄÜ£¬×îÖÕ´ïµ½¼õÉÙ¶ÔӢΰ´ï²úÆ·ÒÀÀµµÄÄ¿µÄ¡££¬È¥Äêµ××÷ΪӢΰ´ï×îÇ¿ÌôÕ½ÕßµÄAMD£¬Ôò·¢²¼ÁË“×îÇ¿ËãÁ¦”Instinct MI300X¡£
¡¡¡¡³õ´´¹«Ë¾Groq½üÆÚµÄÏûÏ¢¸üÊÇÎü×ãÁËÑÛÇò¡£¸Ã¹«Ë¾ÊÇÒ»¼ÒÓɹȸèTPUÍŶӵijÉÁ¢µÄ³õ´´¹«Ë¾£¬ÕâЩÈËÍÆ³öÁËÒ»ÖÖÐÂÐ͵Ä×ÔÑÐоƬ——LPU£¨Language Processing Unit£©£¬Õâ¸öLPUÓÃÓÚ´óÄ£ÐÍÍÆÀí¼***Ù¡£ÆäÐ¾Æ¬ÍÆÀíËٶȽÏӢΰ´ïGPUÌá¸ß10±¶¡¢³É±¾Ö»ÓÐÆä1/10£»ÔËÐеĴóÄ£ÐÍÉú³ÉËٶȽӽüÿÃë500 tokens£¬ÄëѹChatGPT-3.5´óÔ¼40 tokens/ÃëµÄËÙ¶È¡£
¡¡¡¡±³ºóÕæÏà
¡¡¡¡¸ù¾ÝÍÆÌØÉÏÓëGroq¹ØÏµÃÜÇеÄͶ×ÊÈËk_zeroS·ÖÏí£¬LPUµÄ¹¤×÷Ô­ÀíÓëGPU½ØÈ»²»Í¬¡£Ëü²ÉÓÃÁËʱÐòÖ¸Á¼ÆËã»ú£¨Temporal Instruction Set Computer£©¼Ü¹¹£¬ÕâÒâζ×ÅËüÎÞÐèÏñʹÓøߴø¿í´æ´¢Æ÷£¨HBM£©µÄGPUÄÇÑùƵ·±µØ´ÓÄÚ´æÖмÓÔØÊý¾Ý¡£ÕâÒ»ÌØµã²»½öÓÐÖúÓÚ±ÜÃâHBM¶ÌȱµÄÎÊÌ⣬»¹ÄÜÓÐЧ½µµÍ³É±¾¡£²»Í¬ÓÚNvidia GPUÐèÒªÒÀÀµ¸ßËÙÊý¾Ý´«Ê䣬GroqµÄLPUÔÚÆäϵͳÖÐûÓвÉÓøߴø¿í´æ´¢Æ÷£¨HBM£©¡£ËüʹÓõÄÊÇSRAM£¬ÆäËٶȱÈGPUËùÓõĴ洢Æ÷¿ìÔ¼20±¶¡£
¡¡¡¡²»¹ýÕæÏà¿ÉÄܲ¢²»¼òµ¥¡£ÒµÄÚ´óÀмÖÑïÇåËãÁËÒ»±ÊÕË£¬ÒòΪGroqСµÃ¿ÉÁ¯µÄÄÚ´æÈÝÁ¿£¨230MB£©£¬ÔÚÔËÐÐLlama-2 70bÄ£ÐÍʱ£¬ÐèÒª305ÕÅGroq¿¨²Å×ã¹»£¬¶øÓÃH100ÔòÖ»ÐèÒª8ÕÅ¿¨¡£´ÓĿǰµÄ¼Û¸ñÀ´¿´£¬ÕâÒâζ×ÅÔÚͬµÈÍÌÍÂÁ¿Ï£¬GroqµÄÓ²¼þ³É±¾ÊÇH100µÄ40±¶£¬Äܺijɱ¾ÊÇ10±¶¡£
¡¡¡¡Õâ²¢²»Ó°ÏìA¹ÉÊг¡¶ÔSRAM¸ÅÄî¹ÉµÄ×·Åõ¡£×òÈÕβÅÌ£¬±±¾©¾ýÕýÔڶ̶Ì1¸öСʱÄÚÓÉÂÌÅÌÀ­ÉýÖÁ20cmÕÇÍ££¬Î÷²â²âÊÔÔÚ²»µ½10·ÖÖÓʱ¼äÀ­Éý14%ˮƽ¡£½ñÌìÔçÅ̲¿·Ö¸ÅÄî¹É¼ÌÐø³å¸ß£¬Î÷²â²âÊÔÒ»¶È´óÕdz¬16%£¬±±¾©¾ýÕýÒ»¶ÈÕdz¬8%¡£
¡¡¡¡3¹É¾»ÀûÓÐÍû±©Ôö³¬18±¶
¡¡¡¡ÒµÄÚÈËʿָ³ö£¬ÉÏÊö¸ÅÄî¹ÉµÄÕÇ·ù½Ï´ó£¬Ò»·½ÃæÈ·ÊµÓÐSRAM¸ÅÄîÖú¹¥£¬ÁíÒ»·½Ãæ×÷ΪºËÐÄÌâ²ÄµÄ´æ´¢Æ÷±¾ÉíÒ²ÊÜÒæÓÚAIʱ´ú´ó·¢Õ¹¡£Óë´Ë£¬´æ´¢¸´ËÕÒ²ÀûºÃÕû¸ö°å¿é¡£¹úͶ֤ȯÑб¨ÏÔʾ£¬Ö÷Á÷Êг¡µÄ´æ´¢³§ÉÌ×Ô2023ÄêÈý¼¾¶ÈÒÔÀ´Ó­À´Òµ¼¨¹Õµã£¬ÊÜÒæÓÚAI·þÎñÆ÷ÐèÇó¼¤Ôö£¬¸ß´ø¿í´æ´¢Ð¾Æ¬HBM Êܵ½ÈÈÅõ£¬³ÉΪ´æ´¢Ð¾Æ¬ÐÐÒµ·¢Õ¹µÄÖØÒªÔöÁ¿¡£¾ÝTrendForce Ô¤¼Æ£¬½ñÄêÒ»¼¾¶È DRAM ºÏÔ¼¼Û¼¾ÕÇ·ùÔ¼13%ÖÁ18%£¬NAND FlashΪ18%ÖÁ23%£¬È«Äêά³ÖÉÏÕÇÇ÷ÊÆ£¬µ½2024Äêµ×£¬DRAMºÍNAND Flash µÄ¼Û¸ñ½«ÉÏÕÇÔ¼60%¡£
¡¡¡¡Ò»Ð©¹«Ë¾µÄÒµ¼¨Ò²ÓÐÍû±©Ôö¡£¸ù¾Ý»ú¹¹Ò»ÖÂÔ¤²â£¬ÀʿƿƼ¼¡¢µÂÃ÷Àû¡¢ºã˸¹É·ÝµÈ3¹É»ú¹¹Ò»ÖÂÔ¤²â½ñÄê¾»ÀûÔöËÙ¾ù³¬18±¶£¬ÆÕȽ¹É·Ý¡¢À½Æð¿Æ¼¼¡¢½­²¨Áú¡¢¾Û³½¹É·ÝµÈ¸ö¹É»ú¹¹Ò»ÖÂÔ¤²â½ñÄê¾»ÀûÔöËÙ¾ù³¬100%¡£ÓëÒµ¼¨²»Ïà·ûµÄÊÇ£¬´ó²¿·Ö¸ö¹É¹É¼Û±íÏÖ²»¼Ñ£¬°Ûά´æ´¢¡¢ºã˸¹É·Ý¡¢´óΪ¹É·Ý¡¢ÖеçÐË·¢µÈ¸ö¹ÉÄêÄÚ¾ùµø³¬30%¡£
 

Copyright@2015-2025 www.xyhndec.cn Å£³´¹É °æÈ¨ËùÓÐ