ਟੈਕਨੋਲੋਜੀ, 26 ਅਕਤੂਬਰ, 2026 (ਚੌਧਰੀ ਪ੍ਰਭਜੀਤ ਸਿੰਘ) : ਬ੍ਰਿਟੇਨ ਦੇ AI ਸੁਰੱਖਿਆ ਸੰਸਥਾਨ (UK AI Security Institute—AISI) ਦੀ ਇੱਕ ਤਕਨੀਕੀ ਰਿਪੋਰਟ ਨੇ ਉੱਨਤ ਆਰਟੀਫ਼ੀਸ਼ਲ ਇੰਟੈਲੀਜੈਂਸ (AI) ਪ੍ਰਣਾਲੀਆਂ ਦੀ ਸੁਰੱਖਿਆ ਬਾਰੇ ਨਵੇਂ ਸਵਾਲ ਖੜ੍ਹੇ ਕੀਤੇ ਹਨ। ਰਿਪੋਰਟ ਅਨੁਸਾਰ, ਕੁਝ AI ਏਜੰਟ ਆਪਣੇ ਨਿਰਧਾਰਤ ਕੰਮ ਨੂੰ ਪੂਰਾ ਕਰਨ ਲਈ ਅਜਿਹੇ ਤਰਕ ਪੇਸ਼ ਕਰ ਸਕਦੇ ਹਨ, ਜਿਨ੍ਹਾਂ ਰਾਹੀਂ ਉਹ ਗਲਤ ਜਾਂ ਬਿਨਾਂ ਮਨਜ਼ੂਰੀ ਵਾਲੀਆਂ ਕਾਰਵਾਈਆਂ ਨੂੰ ਜਾਇਜ਼ ਠਹਿਰਾਉਣ ਦੀ ਕੋਸ਼ਿਸ਼ ਕਰਦੇ ਹਨ। AISI ਨੇ ਆਪਣੇ ਪ੍ਰਯੋਗਾਂ ਦੇ ਆਧਾਰ ’ਤੇ ‘ਮੋਟੀਵੇਟਿਡ ਰੀਜ਼ਨਿੰਗ’ (Motivated Reasoning) ਦੇ ਸੰਕੇਤ ਮਿਲਣ ਦੀ ਗੱਲ ਕਹੀ ਹੈ। ਇਸ ਦਾ ਅਰਥ ਹੈ ਕਿ AI ਮਾਡਲ ਦਾ ਤਰਕ ਕਿਸੇ ਨਿਰਧਾਰਤ ਨਤੀਜੇ ਵੱਲ ਝੁਕ ਸਕਦਾ ਹੈ ਅਤੇ ਉਹ ਆਪਣੇ ਕੰਮ ਨੂੰ ਪੂਰਾ ਕਰਨ ਲਈ ਉਸੇ ਦਿਸ਼ਾ ਵਿੱਚ ਅੱਗੇ ਵਧਣ ਦੇ ਹੱਕ ਵਿੱਚ ਦਲੀਲਾਂ ਤਿਆਰ ਕਰ ਸਕਦਾ ਹੈ।
Mythos 5 ਬਾਰੇ ਕੀ ਸਾਹਮਣੇ ਆਇਆ?
ਰਿਪੋਰਟ ਵਿੱਚ ਐਂਥਰੋਪਿਕ ਦੇ Mythos 5 AI ਮਾਡਲ ਦਾ ਜ਼ਿਕਰ ਕਰਦਿਆਂ ਕਿਹਾ ਗਿਆ ਹੈ ਕਿ ਇਸ ਨੇ ਉਸੇ ਕੰਪਨੀ ਦੇ ਘੱਟ ਸਮਰੱਥ ਮਾਡਲਾਂ ਦੇ ਮੁਕਾਬਲੇ ਮੋਟੀਵੇਟਿਡ ਰੀਜ਼ਨਿੰਗ ਵਧੇਰੇ ਵਾਰ ਦਿਖਾਈ। ਇਸ ਨਾਲ ਇਹ ਸਵਾਲ ਉੱਠਦਾ ਹੈ ਕਿ AI ਦੀ ਸਮਰੱਥਾ ਵਧਣ ਦੇ ਨਾਲ ਉਸ ਦੀਆਂ ਕਾਰਵਾਈਆਂ ’ਤੇ ਨਿਗਰਾਨੀ ਅਤੇ ਸੁਰੱਖਿਆ ਪ੍ਰਬੰਧ ਕਿੰਨੇ ਪ੍ਰਭਾਵਸ਼ਾਲੀ ਰਹਿੰਦੇ ਹਨ। AISI ਮੁਤਾਬਕ, ਉਸ ਨੇ ਅਗਸਤ 2026 ਵਿੱਚ ਸਾਹਮਣੇ ਆਏ ਇੱਕ ਕਥਿਤ ਬੇਕਾਬੂ AI ਏਜੰਟ ਨਾਲ ਜੁੜੇ ਮਾਮਲੇ ਦੀ ਹੋਰ ਜਾਂਚ ਕੀਤੀ। ਸੰਸਥਾ ਨੇ ਉੱਨਤ AI ਮਾਡਲਾਂ ਤੱਕ ਪਹੁੰਚ ਲਈ ਵੱਡੀਆਂ AI ਕੰਪਨੀਆਂ ਨਾਲ ਸਵੈ-ਇੱਛੁਕ ਸਮਝੌਤੇ ਕੀਤੇ ਹੋਏ ਹਨ, ਜਿਸ ਦੇ ਆਧਾਰ ’ਤੇ ਉਹ ਇਨ੍ਹਾਂ ਮਾਡਲਾਂ ਦੇ ਵਿਹਾਰ ਦਾ ਅਧਿਐਨ ਕਰਦੀ ਹੈ।
AI ਦੀ ਵਧਦੀ ਸਮਰੱਥਾ ਨਾਲ ਸੁਰੱਖਿਆ ਦੀ ਚੁਣੌਤੀ
AI ਏਜੰਟ ਅਜਿਹੇ ਸਿਸਟਮ ਹੁੰਦੇ ਹਨ ਜੋ ਸਿਰਫ਼ ਸਵਾਲਾਂ ਦੇ ਜਵਾਬ ਦੇਣ ਦੀ ਬਜਾਏ ਕਈ ਪੜਾਵਾਂ ਵਾਲੇ ਕੰਮ ਵੀ ਕਰ ਸਕਦੇ ਹਨ। ਜੇਕਰ ਅਜਿਹੇ ਸਿਸਟਮ ਗਲਤ ਤਰਕ ਦੇ ਆਧਾਰ ’ਤੇ ਬਿਨਾਂ ਮਨਜ਼ੂਰੀ ਵਾਲੇ ਕਦਮ ਚੁੱਕਣ, ਤਾਂ ਅਸਲ ਦੁਨੀਆ ਵਿੱਚ ਲੋਕਾਂ ਅਤੇ ਸੰਸਥਾਵਾਂ ਦੀ ਸੁਰੱਖਿਆ ਲਈ ਖ਼ਤਰੇ ਪੈਦਾ ਹੋ ਸਕਦੇ ਹਨ। ਇਸ ਲਈ AI ਸੁਰੱਖਿਆ ਮਾਹਿਰਾਂ ਲਈ ਇਹ ਸਮਝਣਾ ਮਹੱਤਵਪੂਰਨ ਹੈ ਕਿ ਮਾਡਲ ਕਿਹੜੀਆਂ ਸਥਿਤੀਆਂ ਵਿੱਚ ਨਿਰਧਾਰਤ ਹਦਾਇਤਾਂ ਤੋਂ ਹਟਦੇ ਹਨ, ਚੇਤਾਵਨੀਆਂ ਦਾ ਕਿਵੇਂ ਜਵਾਬ ਦਿੰਦੇ ਹਨ ਅਤੇ ਉਨ੍ਹਾਂ ਦੀਆਂ ਕਾਰਵਾਈਆਂ ਨੂੰ ਕਿਵੇਂ ਨਿਯੰਤਰਿਤ ਕੀਤਾ ਜਾ ਸਕਦਾ ਹੈ।
