جنریٹیو ڈیٹا انٹیلی جنس

AWS CDK کا استعمال کرتے ہوئے Jupyter Lab 3 کے ساتھ Amazon SageMaker اسٹوڈیو سیٹ اپ کریں۔

تاریخ:

ایمیزون سیج میکر اسٹوڈیو جزوی طور پر مشین لرننگ (ML) کے لیے مکمل طور پر مربوط ترقیاتی ماحول (IDE) ہے۔ JupyterLab 3. اسٹوڈیو ایک ویب پر مبنی انٹرفیس فراہم کرتا ہے تاکہ ML ڈیولپمنٹ کاموں کو انٹرایکٹو طریقے سے انجام دے سکے جو ڈیٹا تیار کرنے اور ایم ایل ماڈلز کی تعمیر، تربیت اور تعیناتی کے لیے درکار ہیں۔ اسٹوڈیو میں، آپ ڈیٹا لوڈ کر سکتے ہیں، ML ماڈلز کو ایڈجسٹ کر سکتے ہیں، تجربات کو ایڈجسٹ کرنے کے لیے مراحل کے درمیان آگے بڑھ سکتے ہیں، نتائج کا موازنہ کر سکتے ہیں، اور قیاس کے لیے ML ماڈلز کو تعینات کر سکتے ہیں۔

۔ AWS کلاؤڈ ڈویلپمنٹ کٹ (AWS CDK) ایک اوپن سورس سافٹ ویئر ڈویلپمنٹ فریم ورک ہے جسے تخلیق کرنا ہے۔ AWS کلاؤڈ فارمیشن اسٹاک خود کار طریقے سے CloudFormation ٹیمپلیٹ نسل. اسٹیک AWS وسائل کا ایک مجموعہ ہے، جسے پروگرام کے مطابق اپ ڈیٹ، منتقل یا حذف کیا جا سکتا ہے۔ AWS CDK تعمیرات AWS CDK ایپلی کیشنز کے بلڈنگ بلاکس ہیں، جو کلاؤڈ آرکیٹیکچرز کی وضاحت کے لیے بلیو پرنٹ کی نمائندگی کرتے ہیں۔

AWS CDK کے ساتھ اسٹوڈیو قائم کرنا ایک ہموار عمل بن گیا ہے۔ AWS CDK آپ کو بنیادی ڈھانچے کو بطور کوڈ (IaC) استعمال کرتے ہوئے اسٹوڈیو کی وضاحت اور تعینات کرنے کے لیے مقامی تعمیرات استعمال کرنے کی اجازت دیتا ہے، بشمول AWS شناخت اور رسائی کا انتظام (AWS IAM) اجازتیں اور مطلوبہ کلاؤڈ ریسورس کنفیگریشنز، سب ایک جگہ پر۔ اس ترقیاتی نقطہ نظر کو دوسرے عام سافٹ ویئر انجینئرنگ کے بہترین طریقوں جیسے خودکار کوڈ کی تعیناتی، ٹیسٹ، اور کے ساتھ استعمال کیا جا سکتا ہے۔ CI / CD پائپ لائنز. AWS CDK عام بنیادی ڈھانچے کی تعیناتی کے کاموں کو انجام دینے کے لیے درکار وقت کو کم کرتا ہے جبکہ آٹومیشن کے ذریعے انسانی غلطی کے لیے سطح کے رقبے کو سکڑتا ہے۔

یہ پوسٹ ایم ایل ماڈل کی ترقی اور ساتھی ایم ایل انجینئرز اور ایم ایل سائنسدانوں کے ساتھ تعاون کو معیاری بنانے کے لیے اسٹوڈیو کے قیام اور تعیناتی کے ساتھ شروع کرنے کے لیے آپ کی رہنمائی کرتی ہے۔ پوسٹ میں تمام مثالیں Python پروگرامنگ زبان میں لکھی گئی ہیں۔ تاہم، AWS CDK متعدد کے لیے بلٹ ان سپورٹ پیش کرتا ہے۔ دیگر پروگرامنگ زبانیں جیسے JavaScript، Java اور C#۔

شرائط

شروع کرنے کے لیے، درج ذیل شرائط لاگو ہوتی ہیں:

GitHub ذخیرہ کو کلون کریں۔

پہلے ، چلیں کلون la GitHub ذخیرہ.

جب ریپوزٹری کو کامیابی سے کھینچ لیا جاتا ہے، تو آپ درج ذیل وسائل پر مشتمل cdk ڈائریکٹری کا معائنہ کر سکتے ہیں:

  • cdk - اہم سی ڈی کے وسائل پر مشتمل ہے۔
  • app.py - جہاں AWS CDK اسٹیک کی تعریف کی گئی ہے۔
  • cdk.json - میٹا ڈیٹا اور فیچر فلیگ پر مشتمل ہے۔

AWS CDK اسکرپٹس

دو اہم فائلیں جن کو ہم میں دیکھنا چاہتے ہیں۔ cdk ذیلی ڈائریکٹری ہیں sagemaker_studio_construct.py اور sagemaker_studio_stack.py. آئیے ہر فائل کو مزید تفصیل سے دیکھتے ہیں۔

اسٹوڈیو کی تعمیر کی فائل

اسٹوڈیو کی تعمیر کی وضاحت میں کی گئی ہے۔ sagemaker_studio_construct.py فائل.

سٹوڈیو کی تعمیر میں لیتا ہے ورچوئل پرائیویٹ کلاؤڈ (VPC)، درج کردہ صارفین، AWS ریجن، اور بنیادی ڈیفالٹ مثال کی قسم بطور پیرامیٹرز۔ یہ AWS CDK تعمیر درج ذیل کام کرتا ہے:

  • اسٹوڈیو ڈومین بناتا ہے (SageMakerStudioDomain)
  • IAM کردار متعین کرتا ہے۔ sagemaker_studio_execution_role ساتھ AmazonSageMakerFullAccess وسائل پیدا کرنے کے لیے اجازت درکار ہے۔ بہتر سیکورٹی کے لیے کم از کم استحقاق کے اصول پر عمل کرنے کے لیے اجازتوں کو مزید نیچے کرنے کی ضرورت ہے۔
  • Jupyter سرور ایپ کی ترتیبات سیٹ کرتا ہے - اندر لے جاتا ہے۔ JUPYTER_SERVER_APP_IMAGE_NAME, jupyter-server-3 کنٹینر امیج کو استعمال کرنے کی وضاحت کرنا۔
  • کرنل گیٹ وے ایپ کی سیٹنگز سیٹ کرتا ہے - اندر لے جاتا ہے۔  KERNEL_GATEWAY_APP_IMAGE_NAME, ڈیٹا سائنس-2.0 کنٹینر کی تصویر کی وضاحت کرنا جسے استعمال کیا جائے گا۔
  • ہر درج صارف کے لیے ایک صارف پروفائل بناتا ہے۔

درج ذیل کوڈ کا ٹکڑا متعلقہ اسٹوڈیو ڈومین AWS CloudFormation وسائل کو دکھاتا ہے جس کی وضاحت AWS CDK میں کی گئی ہے:

sagemaker_studio_domain = sagemaker.CfnDomain(
self, "SageMakerStudioDomain",
auth_mode="IAM",
default_user_settings=sagemaker.CfnDomain.UserSettingsProperty(
execution_role=self.sagemaker_studio_execution_role.role_arn,
jupyter_server_app_settings=sagemaker.CfnDomain.JupyterServerAppSettingsProperty(
default_resource_spec=sagemaker.CfnDomain.ResourceSpecProperty(
instance_type="system",
sage_maker_image_arn=get_sagemaker_image_arn(
JUPYTER_SERVER_APP_IMAGE_NAME, aws_region
),
)
),
kernel_gateway_app_settings=sagemaker.CfnDomain.KernelGatewayAppSettingsProperty(
default_resource_spec=sagemaker.CfnDomain.ResourceSpecProperty(
instance_type=default_instance_type,
sage_maker_image_arn=get_sagemaker_image_arn(
KERNEL_GATEWAY_APP_IMAGE_NAME, aws_region
),
),
),
security_groups=[vpc.vpc_default_security_group],
sharing_settings=sagemaker.CfnDomain.SharingSettingsProperty(
notebook_output_option="Disabled"
),
),
domain_name="SageMakerStudioDomain",
subnet_ids=private_subnets,
vpc_id=vpc.vpc_id,
app_network_access_type="VpcOnly",
)

درج ذیل کوڈ کا ٹکڑا AWS CloudFormation وسائل سے بنائے گئے صارف پروفائلز کو دکھاتا ہے:

for user_name in user_names: sagemaker.CfnUserProfile( self, "SageMakerStudioUserProfile_" + user_name, domain_id=sagemaker_studio_domain.attr_domain_id, user_profile_name=user_name, )

اسٹوڈیو اسٹیک فائل

class SagemakerStudioStack(Stack): def __init__( self, scope: Construct, construct_id: str, **kwargs, ) -> None: super().__init__(scope, construct_id, **kwargs) vpc = ec2.Vpc(self, "SageMakerStudioVpc") SageMakerStudio(self, "SageMakerStudio", vpc=vpc, aws_region=self.region)

تعمیر کی وضاحت کے بعد، آپ اسے کلاس کی مثال بنا کر اور مطلوبہ دلائل کو اسٹیک کے اندر پاس کر کے شامل کر سکتے ہیں۔ اسٹیک ایک مربوط تعیناتی کے حصے کے طور پر AWS CloudFormation وسائل تخلیق کرتا ہے۔ اس کا مطلب یہ ہے کہ اگر کم از کم ایک کلاؤڈ ریسورس بنانے میں ناکام ہو جاتا ہے، تو CloudFormation اسٹیک کسی بھی تبدیلی کو واپس کر دیتا ہے۔ اسٹوڈیو کنسٹرکٹ کا درج ذیل کوڈ کا ٹکڑا اسٹوڈیو اسٹیک کے اندر فوری طور پر ظاہر ہوتا ہے۔

AWS CDK اسٹیک تعینات کریں۔

اپنے AWS CDK اسٹیک کو تعینات کرنے کے لیے، اپنے ٹرمینل ونڈو کے اندر پروجیکٹ کی روٹ ڈائرکٹری سے درج ذیل کمانڈز چلائیں:

aws configure
pip3 install -r requirements.txt
cdk bootstrap --app "python3 -m cdk.app"
cdk deploy --app "python3 -m cdk.app"

ان وسائل کا جائزہ لیں جو AWS CDK آپ کے AWS اکاؤنٹ میں تخلیق کرتا ہے اور جب اسٹیک کو تعینات کرنے کا اشارہ کیا جائے تو ہاں کو منتخب کریں۔ اپنے اسٹیک کی تعیناتی ختم ہونے کا انتظار کریں۔ اس میں عام طور پر 5 منٹ سے بھی کم وقت لگتا ہے۔ تاہم، مزید وسائل شامل کرنے سے تعیناتی کا وقت طویل ہو جائے گا۔ آپ پر تعیناتی کی حیثیت بھی چیک کر سکتے ہیں۔ AWS CloudFormation کنسول.

CloudFormation میں اسٹیک تخلیق

جب اسٹیک کامیابی کے ساتھ تعینات ہو جائے تو اسٹوڈیو کنٹرول پینل پر جا کر اس کی معلومات چیک کریں۔ آپ کو سیج میکر اسٹوڈیو صارف پروفائل دیکھنا چاہئے جو آپ نے بنایا ہے۔

پہلے سے طے شدہ صارف پروفائل درج ہے۔

اگر آپ اسٹیک کو دوبارہ تعینات کرتے ہیں تو یہ تبدیلیوں کی جانچ کرے گا، صرف کلاؤڈ ریسورس اپڈیٹس کی ضرورت کو انجام دے گا۔ مثال کے طور پر، اس کا استعمال صارفین کو شامل کرنے، یا کی اجازتوں کو تبدیل کرنے کے لیے کیا جا سکتا ہے۔ ان صارفین کو تمام وضاحت شدہ کلاؤڈ وسائل کو دوبارہ تخلیق کیے بغیر.

صفائی

اسٹیک کو حذف کرنے کے لیے، درج ذیل مراحل کو مکمل کریں:

  1. AWS CloudFormation کنسول پر، منتخب کریں۔ Stacks نیوی گیشن پین میں.
  2. اس اسٹیک کو کھولیں جسے آپ حذف کرنا چاہتے ہیں۔
  3. اسٹیک تفصیلات کے پین میں، منتخب کریں۔ خارج کر دیں.
  4. میں سے انتخاب کریں اسٹیک کو حذف کریں۔ جب حوصلہ افزائی کی گئی.

AWS CloudFormation ان وسائل کو حذف کر دے گا جو اسٹیک کو تعینات کیا گیا تھا۔ تخلیق کردہ وسائل کی مقدار کے لحاظ سے اس میں کچھ وقت لگ سکتا ہے۔

اگر آپ کو صفائی کے ان مراحل سے گزرتے ہوئے کوئی مسئلہ درپیش ہے، تو آپ کو ضرورت پڑسکتی ہے۔ اسٹوڈیو ڈومین کو دستی طور پر حذف کریں۔ اس سیکشن میں اقدامات کو دہرانے سے پہلے پہلے۔

نتیجہ

اس پوسٹ میں، ہم نے دکھایا کہ اسٹوڈیو کی تعیناتیوں کے لیے آسانی سے دوبارہ قابل استعمال ٹیمپلیٹ بنانے کے لیے AWS کلاؤڈ-آبائی IaC وسائل کیسے استعمال کیے جائیں۔ سیج میکر اسٹوڈیو ایک مکمل طور پر مربوط ویب پر مبنی IDE ہے جو JupyterLab3 پر مبنی ML ترقیاتی کاموں کے لیے ایک بصری انٹرفیس فراہم کرتا ہے۔ AWS CDK سٹیکس کے ساتھ، ہم کلاؤڈ اجزاء کی تعمیر کے لیے ایسی تعمیرات کی وضاحت کرنے کے قابل تھے جن میں بنیادی CloudFormation اسٹیک میں تبدیلیاں کر کے آسانی سے ترمیم، ترمیم، یا حذف کی جا سکتی ہے۔

ایمیزون اسٹوڈیو کے بارے میں مزید معلومات کے لیے، دیکھیں ایمیزون سیج میکر اسٹوڈیو.


مصنفین کے بارے میں

کوری ہیئرسٹن Amazon ML Solutions Lab میں سافٹ ویئر انجینئر ہے۔ وہ نئی ٹیکنالوجیز سیکھنے اور دوبارہ قابل استعمال سافٹ ویئر سلوشنز بنانے کے لیے اس معلومات کا فائدہ اٹھانے کے بارے میں پرجوش ہے۔ وہ پاور لفٹر کا شوقین ہے اور اپنا فارغ وقت ڈیجیٹل آرٹ بنانے میں صرف کرتا ہے۔

مارسیلو ایبرل AWS AI تنظیم میں ایک ML انجینئر ہے۔ وہ Amazon ML Solutions Lab میں MLOps کی کوششوں کی رہنمائی کر رہا ہے، جس سے صارفین کو توسیع پذیر ML سسٹمز کو ڈیزائن اور لاگو کرنے میں مدد مل رہی ہے۔ اس کا مشن صارفین کو ان کے انٹرپرائز ML سفر پر رہنمائی کرنا اور پیداوار کے لیے ان کے ML راستے کو تیز کرنا ہے۔

یش شاہ میں سائنس مینیجر ہے۔ ایمیزون ایم ایل حل لیب. وہ اور اس کی اپلائیڈ سائنسدانوں اور مشین لرننگ انجینئرز کی ٹیم صحت کی دیکھ بھال، کھیلوں، آٹوموٹو اور مینوفیکچرنگ سے مشین لرننگ کے استعمال کے کیسز کی ایک رینج پر کام کرتی ہے۔

اسپاٹ_مگ

تازہ ترین انٹیلی جنس

اسپاٹ_مگ