Q:
DARPA "వివరించదగిన AI" పై ఎందుకు పరిశోధన చేస్తోంది?
A:సాధారణంగా, వివరించదగిన కృత్రిమ మేధస్సు డేటా సైన్సెస్‌లో అత్యాధునిక పనిలో చాలా ముఖ్యమైనదిగా మారుతోంది. అంతర్గతంగా అస్థిర మరియు డైనమిక్ రకం సాంకేతిక పరిజ్ఞానం యొక్క మానవ నియంత్రణకు మార్గనిర్దేశం చేయడానికి ఇది సహాయపడుతుంది - వివరించదగిన AI కృత్రిమ మేధస్సు ఎలా పని చేస్తుందనే దాని గురించి మా సామూహిక ప్రశ్నలకు సమాధానం ఇవ్వడానికి సహాయపడుతుంది.
వివరించదగిన AI ని అర్థం చేసుకోవడానికి, ఇది "రెగ్యులర్ AI" ఎలా ఉంటుందో అర్థం చేసుకోవడానికి సహాయపడుతుంది. సాంప్రదాయకంగా, AI ఆకృతిని ప్రారంభించినప్పుడు, విలక్షణమైన ప్రాజెక్ట్ ఒక క్రొత్త సాఫ్ట్‌వేర్ సామర్ధ్యాన్ని కలిగి ఉంటుంది, ఇది అల్గోరిథంలు మరియు శిక్షణా సెట్లు మరియు లీనియర్ కోడ్‌లో దాచబడుతుంది, ఇది వినియోగదారులకు "బ్లాక్ బాక్స్". ఇది పనిచేస్తుందని వారికి తెలుసు - వారికి ఎలా ఖచ్చితంగా తెలియదు.
ఇది "విశ్వసనీయ సమస్యలకు" దారితీస్తుంది, ఇక్కడ సాంకేతికత నిర్ణయాలు తీసుకునే ప్రాతిపదికను వినియోగదారులు ప్రశ్నించవచ్చు. వివరించదగిన AI పరిష్కరించాల్సినది ఇదే: వివరించదగిన AI ప్రాజెక్టులు తుది వినియోగదారులకు AI యొక్క ఉద్దేశం మరియు నిర్మాణాన్ని చూపించడానికి అదనపు మౌలిక సదుపాయాలతో వస్తాయి - ఇది ఎందుకు చేస్తుంది.
బిల్ గేట్స్ మరియు ఎలోన్ మస్క్ వంటి అగ్రశ్రేణి ఆవిష్కర్తలు కృత్రిమ మేధస్సు ఎలా పనిచేస్తుందనే దానిపై ఆందోళన వ్యక్తం చేస్తున్న యుగంలో, వివరించదగిన AI చాలా ఆకర్షణీయంగా ఉంది. సాంకేతికతలు వారు ఏమి చేస్తున్నారో అర్థం చేసుకోవడానికి, నమ్మకాన్ని పెంచడానికి మరియు ఈ సాంకేతిక పరిజ్ఞానం యొక్క ఉపయోగం మరియు వినియోగాన్ని పెంచడానికి తుది వినియోగదారులకు మంచి వివరించదగిన AI సహాయపడుతుందని నిపుణులు వాదించారు.
ప్రత్యేకంగా, అయితే, కొత్త ప్రాజెక్టులపై ఎందుకు ఆసక్తి చూపుతుందో ప్రత్యేకంగా DARPA వివరిస్తుంది. DARPA లోని ఒక పేజీ, కృత్రిమ మేధస్సు అనువర్తనాల యొక్క "టొరెంట్" ను రక్షణ శాఖ ఎదురుచూస్తుందని మరియు దాని అభివృద్ధిలో కొంత గందరగోళం ఉందని చూపిస్తుంది.
"నిరంతర పురోగతులు స్వయంప్రతిపత్త వ్యవస్థలను ఉత్పత్తి చేస్తాయని వాగ్దానం చేస్తాయి, అవి సొంతంగా గ్రహించి, నేర్చుకుంటాయి, నిర్ణయిస్తాయి మరియు పనిచేస్తాయి" అని డేవిడ్ గన్నింగ్ వ్రాశాడు. “అయితే, ఈ వ్యవస్థల ప్రభావం మానవ వినియోగదారులకు వారి నిర్ణయాలు మరియు చర్యలను వివరించడానికి యంత్రం యొక్క ప్రస్తుత అసమర్థత ద్వారా పరిమితం చేయబడింది. … అభివృద్ధి చెందుతున్న తరం కృత్రిమంగా తెలివైన యంత్ర భాగస్వాములను అర్థం చేసుకోవడం, తగిన విధంగా విశ్వసించడం మరియు సమర్థవంతంగా నిర్వహించడం వంటివి వివరించదగిన AI - ముఖ్యంగా వివరించదగిన యంత్ర అభ్యాసం అవసరం. ”
సాంకేతిక పరిజ్ఞానం కోసం “హేతుబద్ధతను అందించడానికి”, వాటి బలాలు మరియు బలహీనతలను చూపించడానికి మరియు ఉపయోగ సందర్భాలను మరింత పారదర్శకంగా చేయడానికి వివరించగల AI వ్యవస్థలు సహాయపడతాయని గన్నింగ్ యొక్క ఆన్‌లైన్ వ్యాసం సూచిస్తుంది. శిక్షణ డేటా నుండి కృత్రిమ మేధస్సు కార్యాచరణ యొక్క సూటిగా పైప్‌లైన్ ఎలా వివరించగల మోడల్ మరియు వినియోగదారు ప్రశ్నలకు సమాధానం ఇవ్వడానికి సహాయపడే వివరించదగిన ఇంటర్‌ఫేస్ ద్వారా ఎలా వృద్ధి చెందుతుందో పేజీలోని గ్రాఫిక్ చూపిస్తుంది. గన్నింగ్ మరింత వివరించదగిన AI ప్రోగ్రామ్‌లో రెండు ప్రధాన ఫోకస్ ప్రాంతాలను కలిగి ఉంటుందని సూచిస్తుంది - ఒకటి వినియోగదారులకు ఉపయోగపడేదాన్ని కనుగొనడానికి మల్టీమీడియా డేటా ద్వారా జల్లెడపడుతుందని, మరియు రెండవ దృష్టి నిర్ణయ మద్దతు కోసం నిర్ణయ ప్రక్రియలను అనుకరించడం.
భవిష్యత్తులో వివరించదగిన AI వ్యవస్థలను అభివృద్ధి చేయడానికి సహాయపడే “టూల్‌కిట్” ను అందించాలని DARPA భావిస్తోంది.
