DeepSeek-இன் 294,000 டாலர் பயிற்சிச் செலவு விளக்கம்: R1 உண்மையில் பல மில்லியன் டாலர்கள் செலவானது ஏன்

294,000 டாலர் விலை AI உலகை அதிர்ச்சியடையச் செய்தது ஏன்

DeepSeek நிறுவனம் தனது R1 பகுத்தறிதல் மாதிரி குறித்த ஆய்வுக் கட்டுரையை சக மதிப்பாய்வுக்குப் பிறகு Nature இதழில் வெளியிட்டபோது, ஒரு எண்ணிக்கை உலகின் கவனத்தை ஈர்த்தது: 294,000 டாலர்கள். அமெரிக்கப் போட்டியாளர்கள் செலவிட்டதாகக் கூறப்படும் தொகையில் ஒரு சிறு பகுதியிலேயே இந்த முன்னணி மாதிரி பயிற்றுவிக்கப்பட்டதாகத் தலைப்புச் செய்திகள் குறிப்பிட்டன. அந்த எண்ணிக்கை உண்மைதான்; ஆனால் அது பணியின் ஒரு குறுகிய பகுதியை மட்டுமே குறித்தது. மாதிரியின் படிப்படியான பகுத்தறிதலை மேம்படுத்திய இறுதிக் கட்ட வலுவூட்டல் கற்றலுக்கான செலவே அந்தத் தொகை. R1 சார்ந்திருக்கும் மிகப் பெரிய அடிப்படை மாதிரிக்குப் பல மாதங்கள் மேற்கொள்ளப்பட்ட முன்பயிற்சி இதில் சேர்க்கப்படவில்லை.

R1-இன் செயல்திறன், மிகப்பெரிய தரவுத் தொகுப்பைப் பயன்படுத்தி, பெரும் கணினிக் கணு தொகுப்பில் பயிற்றுவிக்கப்பட்ட பெரிய மொழி மாதிரியான DeepSeek V3-ஐச் சார்ந்துள்ளது. அந்தச் செலவுமிக்க அடித்தளம் அமைக்கப்பட்ட பிறகே, மாதிரியின் தர்க்கத்தையும் சிக்கல் தீர்க்கும் திறனையும் மேம்படுத்த வலுவூட்டல் கற்றலைக் குழு பயன்படுத்தியது. இறுதிக்கட்டத்தை முழுத் திட்டமாகக் கருதியதுதான், ஒரு குறிப்பிட்ட செலவுக் கணக்கைத் தலைப்புச் செய்தியாக மாற்றியது.

இந்த வேறுபாடு முக்கியமானது. நிரலாக்கத்திலும் கணிதத்திலும் சிறந்த அமைப்புகளுக்குப் போட்டியாக இருக்கும் ஒரு மாதிரி, சில சிப் அடுக்குகளில் ஒரே வார இறுதியில் உருவாவதில்லை. தொடர்ந்து கணினி வளங்களைப் பயன்படுத்துதல், விரிவான தரவுத் தேர்வு மற்றும் சீரமைப்பு, மீண்டும் மீண்டும் சோதனைகள், கவனமான பாதுகாப்பு மற்றும் மதிப்பீட்டுப் பணிகள், இறுதியில் ஒரு மேம்படுத்தல் கட்டம் ஆகியவை தேவை. Nature ஆய்வுக் கட்டுரை அந்த இறுதிக்கட்டத்தைப் பற்றிய மதிப்புமிக்க பார்வையை வழங்கியது. அதற்கு முன் நடந்த பெரும் பணியை அது மறைக்கவில்லை.

Nature ஆய்வுக் கட்டுரை உண்மையில் கூறுவது என்ன

R1-இன் துணை ஆவணங்கள், 512 Nvidia H800 GPU-களில் மேற்கொள்ளப்பட்ட வலுவூட்டல் கற்றல் செயல்முறையை விவரிக்கின்றன. ஆரம்ப R1 Zero பயிற்சி சுமார் 198 மணி நேரம் நீடித்ததாகவும், வெளியிடப்பட்ட R1 மாதிரியை அடைய மேலும் 80 மணி நேரம் எடுத்ததாகவும் அவை கூறுகின்றன. இந்தச் செயல்முறையில் பயன்படுத்தப்பட்ட விருப்பத் தரவை உருவாக்க, சுமார் 5,000 GPU மணி நேரத்தையும் குழு பதிவு செய்தது. H800 வகை முடுக்கிகளுக்கான வழக்கமான வாடகை விலைகளைக் கணக்கில் எடுத்தால், இந்தப் பணிகளின் மொத்தச் செலவு 300,000 டாலருக்குச் சற்றுக் குறைவாகும். புதிதாக அதிநவீன மாதிரியை உருவாக்கத் தேவைப்படும் மொத்த நேரத்தையும் கணினி வளத்தையும் இந்த எண்ணிக்கை குறிக்கவில்லை.

வன்பொருள் தொடர்பான பின்னணியையும் இந்த ஆய்வுக் கட்டுரை தெளிவுபடுத்துகிறது. உயர் திறன் கொண்ட முடுக்கிகளுக்கான அணுகலை அமெரிக்க ஏற்றுமதி விதிகள் கட்டுப்படுத்திய பின்னர், சீனாவுக்காக Nvidia வடிவமைத்த H800 சிப்களிலேயே DeepSeek பெரும்பாலும் R1-ஐப் பயிற்றுவித்தது. சிறிய மாதிரியைக் கொண்டு ஆயத்தப் பணிகளுக்கு A100 GPU-களைப் பயன்படுத்தியதாகவும், பின்னர் முக்கிய R1 வலுவூட்டல் கற்றல் செயல்முறைக்கு H800-களுக்கு மாறியதாகவும் குழு ஒப்புக்கொண்டது. இதழ் வெளியிட்ட சக மதிப்பாய்வு செய்யப்பட்ட ஆவணங்களில் தொழில்நுட்ப விவரங்களையும் செலவுக் கணக்குகளையும் வாசகர்கள் Natureஇல் பார்க்கலாம்.

R1 உருவாக்கத்துக்கான உண்மையான செலவு V3 முன்பயிற்சியில் தொடங்குகிறது

மிகப்பெரிய செலவுப் பகுதியை DeepSeek-இன் சொந்த ஆவணங்களே சுட்டுகின்றன: R1 உருவாக்கத்துக்கு அடிப்படையான V3 மாதிரியின் முன்பயிற்சி. V3, 2,048 H800 GPU-களில் சுமார் இரண்டு மாதங்கள் பயிற்றுவிக்கப்பட்டது. இதன்படி, மொத்தம் சுமார் 2.79 மில்லியன் GPU மணி நேரம் ஆகிறது. இந்த வகை வன்பொருளுக்கான GPU மணி நேர வாடகைச் செலவு சுமார் 2 டாலர் என்ற எச்சரிக்கையான மதிப்பீட்டைப் பயன்படுத்தினால், முன்பயிற்சிக்கே சுமார் 5.58 மில்லியன் டாலர்கள் செலவாகிறது. வலுவூட்டல் கற்றல் மற்றும் அதனுடன் தொடர்புடைய தரவு உருவாக்கத்துக்கான சுமார் 294,000 டாலர்களையும் சேர்த்தால், வெளியிடப்பட்ட R1 வடிவத்தை அடைவதற்கான கணினிச் செலவு சுமார் 5.87 மில்லியன் டாலர்களை எட்டுகிறது.

R1-க்கான 294,000 டாலர்கள் என்பது அடிப்படை மாதிரிச் செலவுக்கு மேலான கூடுதல் செலவு என்ற ஆய்வுக் கட்டுரையின் விளக்கத்துடன் இந்த மதிப்பீடு பொருந்துகிறது. பெரிய திறந்த மாதிரிகளின் கணினி வள அளவு R1-க்கும் ஏறத்தாழ ஒத்ததாகக் கூறும் வெளிப்புற ஆய்வுகளுடனும் இது ஒத்துப்போகிறது. மிகப்பெரிய மூடிய அமைப்புகளுக்கானதாகக் கூறப்படும் செலவுகளுடன் ஒப்பிடும்போது இது குறைவாகவே தெரிகிறது. ஆனால் 300,000 டாலருக்குக் குறைவான ஒற்றைத் தலைப்புச் செய்தி உணர்த்திய அளவுக்கு மலிவானதல்ல.

GPU மணி நேரக் கணக்கு எவ்வாறு செயல்படுகிறது

கணினிச் செயல்திறனை அளவிட GPU மணி நேரம் என்பது எளிய வழி: ஒரு GPU ஒரு மணி நேரம் இயங்கினால் அது ஒரு GPU மணி நேரம். பயிற்சியின் மொத்த GPU மணி நேரம் என்பது பயன்படுத்திய GPU-களின் எண்ணிக்கையையும் பதிவு செய்யப்பட்ட மணி நேரத்தையும் பெருக்கினால் கிடைக்கும். சந்தையில் அந்த நேரத்துக்கு ஆகும் செலவுதான் விலையைத் தீர்மானிக்கிறது; அது மேகக் கணினி வாடகையாக இருக்கலாம் அல்லது சொந்த வன்பொருளின் மதிப்புக் குறைவு மற்றும் இயக்கச் செலவாக இருக்கலாம். 2,000-க்கும் மேற்பட்ட முடுக்கிகளை மாதக்கணக்கில் வாடகைக்கு எடுக்கும் மேம்பாட்டாளர், மணிநேரக் கணக்கில் செலுத்துவார். அதே கணினிக் குழுவை வாங்குபவர் தொடக்கத்திலேயே மூலதனச் செலவைச் செலுத்தி, பின்னர் மின்சாரம், குளிரூட்டல், இடவசதி, பராமரிப்பு ஆகியவற்றுக்கும் செலவிடுவார்.

இந்த அளவிலான கணினிக் குழுவை வாங்குவது, ஒரே பயிற்சிச் செயல்முறைக்காக வாடகைக்கு எடுப்பதைவிட மிகவும் அதிகச் செலவாகும். தற்போதைய சந்தை விலையில் 2,048 H800 வகை GPU-கள், வலையமைப்பு வசதி மற்றும் சேவையகங்களை அமைக்க 51 மில்லியன் டாலருக்கும் அதிகமாகும். இதில் பொறியியல் நேரம், தரவு உரிமங்கள், மதிப்பீட்டுப் பணி, சேமிப்பகம், வெற்றிகரமான வெளியீட்டுக்கு முன் தோல்வியடைந்த பல சோதனைகள் ஆகியவை சேரவில்லை. 5.87 மில்லியன் டாலர் என்பது வெற்றிகரமாக முடிந்த பெரிய பயிற்சிச் செயல்முறைகளுக்கான செலவாகப் பார்ப்பதே சரி; அவற்றைச் சாத்தியமாக்கிய முழு ஆய்வுப் பணிக்கான செலவாக அல்ல.

வலுவூட்டல் கற்றல் என்பது இறுதிக்கட்டம்; முழுப் பணியும் அல்ல

விரும்பத்தக்க முடிவுகளுக்கு வெகுமதி அளிப்பதன் மூலம், பயிற்றுவிக்கப்பட்ட மாதிரி எவ்வாறு செயல்படுகிறது என்பதை வலுவூட்டல் கற்றல் மாற்றுகிறது. R1 திட்டத்தில், பதில்களுக்கு மதிப்பெண் வழங்கி, சரியான முடிவுகளை எட்டும் தீர்வுகளை நோக்கி மாதிரியை வழிநடத்தும் ஒரு முறையை DeepSeek பயன்படுத்தியது. இதைத் தூய வலுவூட்டல் கற்றல் அணுகுமுறை என ஆய்வாளர்கள் விவரிக்கின்றனர். இதற்கு மனிதர்கள் எழுதிய சிந்தனைப் படிநிலைகள் தேவையில்லை. மாதிரி தானாகவே பல வழிகளை ஆராய்ந்து சோதித்து, சரியானதா என்பதற்கான சமிக்ஞையைப் பெற்று, பகுத்தறிவுக்கான தனது உள் உத்தியைப் படிப்படியாக மேம்படுத்துகிறது.

இந்த இறுதிக்கட்டம் மதிப்புமிக்கது. சரிபார்க்கக்கூடிய முடிவை அடைவதே இலக்காக இருக்கும் கணிதம், நிரலாக்கம், அறிவியல் பணிகளில் செயல்திறனை மேம்படுத்த இது உதவும். முன்பயிற்சியைவிட இதற்குச் செலவும் மிகக் குறைவு. இருப்பினும், அடிப்படை மாதிரிக்கு மொழி அறிவையும் பரந்த திறன்களையும் வழங்கிய பல மாத காலக் கற்றல்தான் பெரும் பணியாகும். அதன் பிறகு, படிப்படியான பகுத்தறிதல் மற்றும் கருவிகளைப் பயன்படுத்துதல் போன்ற குறிப்பிட்ட இலக்குகளுக்காக அந்தத் திறன்களை வலுவூட்டல் கற்றல் வடிவமைக்கிறது.

சிப்கள், ஏற்றுமதி விதிகள், DeepSeek உண்மையில் பயன்படுத்தியது என்ன

சிப் விநியோகக் கட்டுப்பாடுகளுக்கு மத்தியில் DeepSeek பயிற்சியை மேற்கொண்டது. சீனாவுக்கான உயர் திறன் கொண்ட முடுக்கிகளின் ஏற்றுமதியை அமெரிக்கா கட்டுப்படுத்தியது. அதனால்தான் Nvidia-வின் தரவுமைய GPU-இன் குறைக்கப்பட்ட, ஏற்றுமதிக்கு ஏற்ற பதிப்பான H800, DeepSeek ஆவணங்களில் இடம்பெறுகிறது. சீனாவில் ஆய்வாளர்கள் வேகமான சிப்களைப் பெற வழிகளைக் கண்டறிந்ததாகத் தொழில்துறையில் பேச்சுகள் எழுந்தன; வன்பொருள் மூலங்கள் குறித்த தடயங்களுக்காக நிறுவனத்தின் அறிக்கைகளும் வரிவரியாக ஆராயப்பட்டன. செலவுக் கணக்கைப் பொறுத்தவரை தெளிவானது இதுதான்: R1 வலுவூட்டல் கற்றல் கட்டத்தில் 512 H800-களைக் கொண்ட கணினிக் குழு பயன்படுத்தப்பட்டது; அதற்கு முந்தைய ஆயத்தப் பணிகளில் A100-களும் பயன்படுத்தப்பட்டன.

துணை ஆவணத்தில் இந்த உண்மையை குழு ஒப்புக்கொண்டது. H800-களில் முக்கிய R1 பயிற்சியைத் தொடங்குவதற்கு முந்தைய ஆயத்தக் கட்டத்தில் A100-கள் வகித்த பங்கை ஆய்வாளர்கள் விளக்கினர்.

DeepSeek ஆய்வாளர்கள் எழுதியது: "DeepSeek-R1 குறித்த எங்கள் ஆய்வுக்காக, சிறிய மாதிரியைக் கொண்டு சோதனைகளுக்குத் தயாராக A100 GPU-களைப் பயன்படுத்தினோம்."

இந்த விவரம், இறுதிச் செலவுக் கணக்கும் பயன்படுத்தப்பட்ட சிப்களின் கலவையும் எவ்வாறு ஒன்றுக்கொன்று முரண்படாமல் இருக்கின்றன என்பதை விளக்குகிறது. முக்கிய வலுவூட்டல் கற்றல் செலவுக் கணக்கில் H800-கள் இடம்பெறுகின்றன; அணுகுமுறையை வடிவமைத்த முந்தைய சோதனைகளில் A100-கள் பயன்படுத்தப்பட்டன.

மேற்கத்திய போட்டியாளர்களைவிட DeepSeek மிக மலிவானதா

R1-ஐ உருவாக்கிய மொத்த கணினிச் செலவு 300,000 டாலரைவிட 6 மில்லியன் டாலருக்கு அருகில்தான் உள்ளது. இருப்பினும், முன்னணி மூடிய அமைப்புகளுக்குச் செலவிடப்பட்டதாகக் கூறப்படும் ஒன்பது இலக்கத் தொகையில் இது ஒரு சிறு பங்கே. முடுக்கிகளின் எண்ணிக்கை மற்றும் பயிற்சி கால அளவைக் கொண்டு கணக்கிடும்போது, Meta-வின் Llama 4 போன்ற பெரிய திறந்த மாதிரிகளின் செலவு அளவுடனும் இது ஒத்திருக்கிறது; அந்தத் திட்டங்கள் அதிக டோக்கன்களைப் பயன்படுத்தியிருந்தாலும். இந்த வேறுபாடு கவனிக்கத்தக்கது. ஆனால் முழுப் பயிற்சிச் செயல்முறையிலும் செலவைப் பத்து மடங்கு குறைக்கும் புரட்சி இது அல்ல.

DeepSeek செலவுக் குறைப்பில் முன்னணியில் இருப்பதாகப் பல வாசகர்கள் கருதுவதற்கான காரணங்களில் ஒன்று, கட்டுப்பாடுகளுக்கு மத்தியில் அதன் குழு சிப்களைப் பயன்படுத்திய திறமையான முறையாகும். ஒவ்வொரு டோக்கனுக்கும் அளவுருக்களில் ஒரு சிறிய பகுதியை மட்டுமே செயல்படுத்தும் நிபுணர் கலவை வடிவமைப்பை நிறுவனம் விரிவுபடுத்தியது. இதனால் ஒவ்வொரு GPU மணி நேரத்திலும் அதிகப் பணிகளைச் செய்ய முடிகிறது. மேலும், பயன்பாட்டின்போது நீண்ட நேரம் பகுத்தறியும் முறையையும் அது பயன்படுத்தியது. இதனால் முன்பயிற்சியிலிருந்து சில கணினிச் சுமை, பின்னர் நடைபெறும் பயன்பாட்டுக்கு மாறுகிறது.

தரவின் மூலங்கள் மற்றும் மாதிரிகளுக்கு இடையிலான அறிவுப் பரிமாற்றம் குறித்தும் ஆய்வாளர்கள் விவாதித்துள்ளனர். DeepSeek தனது தயாரிப்புத் தொகுப்பின் சில பகுதிகளில் அறிவுச் சுருக்க முறையைப் பயன்படுத்தியுள்ளது. இதில் திறன்மிக்க மாதிரி பதில்களை உருவாக்கி, அவற்றின் மூலம் சிறிய அல்லது மலிவான மாதிரிக்குப் பயிற்சி அளிக்கிறது. செயற்கை நுண்ணறிவால் உருவாக்கப்பட்ட உள்ளடக்கங்களையும் கொண்ட இணையத் தரவுத் திரட்டிலிருந்து V3 அடிப்படை மாதிரி கற்றதாகக் குழு தெரிவித்துள்ளது; அதில் பிற அமைப்புகளின் வெளியீடுகளும் இருக்கக்கூடும். இதை, பகுத்தறிவுப் பாதைகளை வேண்டுமென்றே நகலெடுத்ததாக அல்லாமல் தற்செயலாக நிகழ்ந்ததாக ஆய்வுக் கட்டுரை விளக்குகிறது. சட்ட நிபுணர்களுக்கும் கொள்கை வகுப்பாளர்களுக்கும் இந்தத் தொழில்நுட்ப வேறுபாடு முக்கியம். குறைவான டோக்கன்களையும் கணினி வளங்களையும் கொண்டு ஒரு மேம்பாட்டாளர் எவ்வளவு தூரம் செல்ல முடியும் என்பதை மதிப்பிடுவோருக்கும் இது முக்கியமானது.

செலவு மற்றும் அணுகல் குறித்து நிபுணர்கள் கூறுவது

DeepSeek-இன் எண்ணிக்கைகளைச் சமநிலையுடன் புரிந்துகொள்ள வேண்டும் என கல்வியாளர்கள் வலியுறுத்தியுள்ளனர். அவர்கள் அதன் உண்மையான பொறியியல் திறனைப் பாராட்டினாலும், எளிமைப்படுத்தப்பட்ட செலவு ஒப்பீடுகள் குறித்து எச்சரிக்கின்றனர். பயிற்சிச் செலவுகள் குறைவது மலிவான அணுகலை ஊக்குவித்தால் சந்தைக்குப் பயனளிக்கலாம். இருப்பினும், தலைப்புச் செய்திகளில் இடம்பெறும் எண்ணிக்கைகள் பல நேரங்களில் பணியாளர்கள், சோதனைகள் மற்றும் உள்கட்டமைப்புக்கான செலவுகளைத் தவிர்த்துவிடுகின்றன.

செயின்ட் லூயிஸில் உள்ள வாஷிங்டன் பல்கலைக்கழகத்தின் கணினி அறிவியல் மற்றும் பொறியியல் உதவிப் பேராசிரியரான உமர் இக்பால், செலவுக் குறைப்புகள் அணுகலை விரிவுபடுத்தலாம் என்று வாதிட்டுள்ளார். அதேவேளை, மேகக் கணினி அளவிலான AI-யின் தனியுரிமை மற்றும் பாதுகாப்பு தொடர்பான பரிமாற்றங்களையும் அவர் சுட்டிக்காட்டியுள்ளார்.

இக்பால் கூறினார்: "தொழில்நுட்பங்கள் பரவலாகப் பயன்படுத்தப்பட வேண்டுமானால், அவை மலிவானதாக இருக்க வேண்டும்." மலிவான மேம்பாடு பெரிய அளவிலான கூடுதல் சோதனைகளைச் சாத்தியமாக்கலாம் என்றும் அவர் கூறினார். அதேவேளை, மேக அடிப்படையிலான AI சேவைகள் தரவுக் கட்டுப்பாடு மற்றும் தனியுரிமை தொடர்பாக உண்மையான கேள்விகளை எழுப்புவதாகவும் எச்சரித்தார்.

DeepSeek-இன் தொழில்நுட்ப அணுகுமுறையை ஆதரிப்பவர்கள்கூட, பரவலாகப் பகிரப்படும் பயிற்சிச் செலவுகள் முழுமையற்ற அளவுகோல் என்று எச்சரித்துள்ளனர். ஒரே தொடக்கம் முதல் முடிவு வரையிலான பயிற்சிச் செயல்முறைக்கு வெளியே நடைபெறும் தொடர்ச்சியான பயிற்சிகள், மேம்படுத்தல் சுழற்சிகள், தரவுப் பணிகள் ஆகியவற்றை அவர்கள் சுட்டுகின்றனர்.

தரவு, அறிவுச் சுருக்கம், பயிற்சித் தொகுப்பில் இருந்திருக்கக்கூடியவை

அறிவுச் சுருக்க முறையில், திறன்மிக்க அமைப்பின் பதில்களைப் பயன்படுத்தி இலக்கு மாதிரிக்கு வழிகாட்டப்படும். மேம்பாட்டாளர்கள் தரமான கேள்வி-பதில் இணைகள், குறியீட்டுத் தடங்கள் அல்லது சிந்தனைப் படிநிலை எடுத்துக்காட்டுகள் என மில்லியன் கணக்கானவற்றை உருவாக்கி, அந்த நடத்தையை மீண்டும் உருவாக்கும் வகையில் மாதிரியை நுணுக்கப் பயிற்றுவிக்கலாம். முன்பயிற்சியின் மிகச் செலவான பகுதிகளை மீண்டும் செய்யாமல், இந்த முறை தரத்தை உயர்த்தக்கூடும். கணிதம், நிரலாக்கம் போன்ற துறைகளில் சிறிய குழுக்கள் பெரிய ஆய்வகங்களின் குறிப்பிட்ட திறன்களை எட்டவோ அதற்கு இணையாகச் செயல்படவோ இது முக்கியக் காரணமாகும்.

Meta-வின் Llama போன்ற திறந்த மூல அமைப்புகளிலிருந்து தங்கள் மாதிரிக் குடும்பத்தின் சில அறிவுச் சுருக்கப் பதிப்புகள் கற்றுக்கொண்டதாக DeepSeek தெரிவித்துள்ளது. V3 மாதிரிக்காக, செயற்கை நுண்ணறிவால் உருவாக்கப்பட்ட கணிசமான அளவு பதில்களையும் உள்ளடக்கிய பரந்த இணையத் தரவுத் திரட்டைப் பயன்படுத்தியதாக நிறுவனம் கூறியது. இந்த அணுகுமுறை நன்மைகளையும் அபாயங்களையும் கொண்டுள்ளது. பொதுவான வடிவங்களைக் கற்றுக்கொள்வதை இது விரைவுபடுத்தலாம்; அதேசமயம் தெரியாத உரிம நிபந்தனைகளையும் தரச் சிக்கல்களையும் உட்புகுத்தக்கூடும். எந்தத் தரவு எப்போது பயன்படுத்தப்பட்டது, செயற்கை முறையில் உருவாக்கப்பட்ட குறியீடுகளைப் பயிற்சிச் செயல்முறையின் எந்தப் பகுதிகள் சார்ந்திருந்தன என்பது குறித்து மேலும் தெளிவுபடுத்த வேண்டும் என Nature ஆய்வுக் கட்டுரை சமூகத்தை வலியுறுத்தியது.

294,000 டாலர் தலைப்புச் செய்தி பரவியதும் அதன் முக்கியத்துவமும்

294,000 டாலர் என்ற எண்ணிக்கையைச் சொல்ல எளிதாக இருந்தது; சந்தைகளைப் பாதிக்கும் அளவுக்கு அதிர்ச்சியூட்டுவதாகவும் இருந்தது. ஜனவரியில் வெளியான DeepSeek-இன் ஆரம்ப மாதிரிகளே, குறைந்த செலவிலான போட்டியாளர் அமெரிக்க முன்னணி நிறுவனங்களைப் பின்னுக்குத் தள்ளிவிடுவாரோ என்ற அச்சத்தைத் தூண்டின. முதலீட்டாளர்கள் சிப் உற்பத்தியாளர்கள் மற்றும் AI கூட்டாளி நிறுவனங்களின் பங்குகளை விற்றனர். எளிதில் பரவிய ஒரு கூற்று, அடிக்குறிப்புகளைவிட வேகமாகச் சென்றதால், சக மதிப்பாய்வுக்குப் பிறகு வெளியான ஆய்வுக் கட்டுரை அந்தக் கருத்தை மீண்டும் தூண்டியது. பல வாசகர்களும் சில செய்தியாளர்களும் வலுவூட்டல் கற்றலையே முழுக் கதையாகக் கருதினர்.

இந்த ஆய்வுக் கட்டுரை பரபரப்பை ஏற்படுத்தியதோடு நின்றுவிடவில்லை. துல்லியமான எண்களையும் முறைகள் குறித்த விவரங்களையும் பொதுவில் கிடைக்கும் அறிவியல் ஆவணமாக வெளியிட்டு, வெளிப்படைத்தன்மைக்கான அளவுகோலையும் அது அமைத்தது. மனிதரைப் போன்ற பண்புகளைச் சுட்டும் சொற்களைக் குறைக்கவும், பாதுகாப்பு, தரவு மூலங்கள், கணினி வளங்கள் குறித்த விளக்கங்களைத் தெளிவுபடுத்தவும் மதிப்பாய்வாளர்கள் DeepSeek-ஐ வலியுறுத்தினர். இது அறிவியலுக்கும் தொழில்துறைக்கும் நல்லது. எந்த நுட்பங்கள் அதிக மதிப்பை வழங்கின, எந்தச் செலவுகளைக் குறைப்பது இன்னும் கடினமாக உள்ளது என்பதைப் புரிந்துகொள்ள இது சமூகத்துக்கு உதவுகிறது.

AI செலவுகளுக்கும் போட்டிக்கும் இதன் பொருள் என்ன

மாதிரி உருவாக்கத்தின் பொருளாதாரம் மாறிவருகிறது. பல ஆண்டுகளாக அளவை விரிவுபடுத்திய பிறகு, பல குழுக்கள் இப்போது தரவுத் தொகுப்பு அளவையும் அளவுருக்களின் எண்ணிக்கையையும் மட்டும் அதிகரிப்பதற்குப் பதிலாக, நுணுக்கப் பயிற்சிக்கும் மாதிரிகள் பகுத்தறியக் கூடுதல் நேரம் வழங்குவதற்கும் முக்கியத்துவம் அளிக்கின்றன. இதனால் செலவின் ஒரு பகுதி பின்னர் நிகழும் பயன்பாட்டுக்குச் செல்கிறது. அங்கு ஒவ்வொரு வினவலுக்கும் மாதிரி நீண்ட நேரம் சிந்தித்து, ஒவ்வொரு பதிலுக்கும் அதிக கணினி வளங்களைச் செலவிடுகிறது. பகுத்தறியத் தேவைப்படும் கூடுதல் நேரத்தைவிட செயல்திறன் மேம்பாடு அதிகமாக இருந்தால், இறுதிப் பயனர்களுக்கான அணுகல் ஒட்டுமொத்தத்தில் மலிவாகவே இருக்கலாம்.

DeepSeek-இன் நிபுணர் கலவை வடிவமைப்பு, பகுத்தறிவுக்கான வலுவூட்டல் கற்றல் பயன்பாடு, தேர்ந்தெடுத்த அறிவுச் சுருக்கம் ஆகியவை மேலும் தொகுதிகளாகப் பிரிக்கப்பட்ட மேம்பாட்டை நோக்கிய பரந்த தொழில்துறை மாற்றத்தின் ஒரு பகுதியாகும். மாதிரிகள் ஒன்றிடமிருந்து ஒன்று கற்றுக்கொள்கின்றன; சிறிய குழுக்கள் பெரிய அடிப்படை மாதிரிகளைப் பயன்படுத்தி மேம்படுத்துகின்றன; திறந்த எடைகள் தொடக்க நிறுவனங்களுக்கு முன்னிலை அளிக்கின்றன. இந்தப் போக்கு குறித்த ஐரோப்பியக் கொள்கை ஆய்வு, சிறிய நிறுவனங்கள் போட்டியிட இந்த மாற்றங்கள் உதவக்கூடும் என்று குறிப்பிட்டது. ஆனால் அடிப்படைப் பயிற்சிக்கான நிலையான செலவை மீட்டெடுப்பதும் கடினமாகலாம். விலைப் போட்டி அதிகரிக்கக்கூடும்; அதேவேளை AI-ஐத் தங்கள் தயாரிப்புகள் மற்றும் சேவைகளுடன் இணைத்து நிலையான வருவாய் பெறும் வழிகளை மேம்பாட்டாளர்கள் தேடுவார்கள்.

வெளியிடப்படும் பயிற்சிச் செலவு விவரங்கள், செம்மைப்படுத்தப்பட்ட அமைப்பை உருவாக்கத் தேவையான மொத்த முயற்சியைக் குறைவாகக் காட்டக்கூடும் என சில ஆய்வாளர்கள் எச்சரிக்கின்றனர். வெற்றிகரமாக முடிந்த இறுதிப் பயிற்சிக்கான செலவுக்கும் தரவுப் பணி, தோல்வியுற்ற சோதனைகள், பாதுகாப்பு மதிப்பீடுகள், பல மாதப் பொறியியல் பணி ஆகியவற்றை உள்ளடக்கிய முழு நிதிநிலைக்கும் இடையிலான வேறுபாட்டை அவர்கள் வலியுறுத்துகின்றனர்.

சுவிட்சர்லாந்தைத் தளமாகக் கொண்ட INSAIT நிறுவனத்தின் இயக்குநர் மார்ட்டின் வெசெவ், இந்தத் தொழில்நுட்பச் சாதனையைப் பாராட்டியபோதும், ஒரே பயிற்சிச் செயல்முறைக்கான எண்ணிக்கைகளை மொத்தச் செலவாகக் கருதக் கூடாது என்று எச்சரித்தார்.

வெசெவ் கூறினார்: "5 முதல் 6 மில்லியன் டாலர் என்ற எண்ணிக்கை தவறாக வழிநடத்துகிறது; அது ஒரே பயிற்சிச் செயல்முறைக்கான செலவை மட்டுமே கணக்கில் கொள்கிறது. இத்தகைய மாதிரியை உருவாக்கப் பல பயிற்சிகளும் சோதனைகளும் தேவைப்படுவதால், உண்மையான செலவு மிக அதிகம்."

இந்தக் கருத்து R1 தொடர்பான ஆதாரங்களுடன் பொருந்துகிறது. முன்பயிற்சியின் செலவுமிக்க பகுதிகளைத் தவிர்த்ததால் அல்ல; புத்திசாலித்தனமான கட்டமைப்புத் தேர்வுகளாலும் வலுவான வலுவூட்டல் கற்றல் முறையாலும் இந்தத் திட்டத்தில் பெரிய சேமிப்பு ஏற்பட்டது. சில போட்டியாளர்களைவிடக் குறைந்த கணினி வளத்தில் உயர் செயல்திறனைப் பெற முடியும் என்பதற்கு இது நம்பத்தகுந்த வழியைக் காட்டுகிறது. ஆனால் முன்னணி மாதிரிகளுக்கான பயிற்சியை 300,000 டாலருக்குக் குறைவான பணியாக மாற்றும் முறை இது அல்ல.

முக்கிய குறிப்புகள்

• DeepSeek R1-க்கான 294,000 டாலர் என்பது 512 H800 GPU-களில் மேற்கொண்ட வலுவூட்டல் கற்றல் மற்றும் தொடர்புடைய தரவு உருவாக்கச் செலவு; முழு மாதிரிப் பயிற்சிக்கானது அல்ல.
• R1, சுமார் இரண்டு மாதங்கள் 2,048 H800 GPU-களில் பயிற்றுவிக்கப்பட்ட V3 அடிப்படை மாதிரியைச் சார்ந்துள்ளது; இது தோராயமாக 2.79 மில்லியன் GPU மணி நேரமாகும்.
• GPU வாடகைச் செலவின் மதிப்பீட்டின்படி, V3 முன்பயிற்சிக்கு சுமார் 5.58 மில்லியன் டாலர்கள் செலவாகும்; R1-ஐ அடைவதற்கான மொத்தம் சுமார் 5.87 மில்லியன் டாலர்கள்.
• இதே அளவிலான வன்பொருளை வாங்குவது வாடகைக்கு எடுப்பதைவிட மிகவும் அதிகச் செலவாகும். 2,000 GPU வகைக் கணினிக் குழுவின் விலை, இயக்கச் செலவுகளுக்கு முன்பே 51 மில்லியன் டாலருக்கும் அதிகமாகும்.
• ஆயத்தப் பணிகளுக்கு DeepSeek A100 GPU-களைப் பயன்படுத்தியது; பின்னர் முக்கிய R1 வலுவூட்டல் கற்றலுக்கு H800-களைப் பயன்படுத்தியது.
• ஆரம்பத் தலைப்புச் செய்திகள் உணர்த்தியதைவிட R1-இன் கணினி வள அளவு மற்ற பெரிய திறந்த மாதிரிகளுக்கு நெருக்கமானது; இருந்தாலும், மூடிய மாதிரிகளுக்காகக் கூறப்படும் ஒன்பது இலக்கச் செலவுகளுடன் ஒப்பிடும்போது இது குறைவாகத் தெரிகிறது.
• வலுவூட்டல் கற்றல், ஒப்பீட்டளவில் குறைந்த செலவில் பகுத்தறிதலை மேம்படுத்தியது; பெரும் செலவுமிக்க பணி முன்பயிற்சியிலும் தரவுப் பணிகளிலும் இருந்தது.
• வெளியிடப்படும் பயிற்சிச் செலவு விவரங்களில் ஆராய்ச்சி மற்றும் மேம்பாடு, தரவு தயாரிப்பு, தோல்வியுற்ற பல பயிற்சிகள் ஆகியவை பெரும்பாலும் சேர்க்கப்படுவதில்லை; இவை திட்டத்தின் உண்மையான செலவை உயர்த்துகின்றன என நிபுணர்கள் எச்சரிக்கின்றனர்.