ಎಣಿಸಿ AI ಸಾಮರ್ಥ್ಯಗಳ ಬಗ್ಗೆ ಎಚ್ಚರಿಕೆಗಳು ಪರ್ವತ, ತಜ್ಞರು ಸೂಚಿಸುವುದನ್ನು ಮುಂದುವರಿಸುತ್ತಾರೆ OpenAI-ಹಗ್ಗಿಂಗ್ ಫೇಸ್ ಹ್ಯಾಕ್ ಎಚ್ಚರಿಕೆಯ ಕರೆಯಾಗಿ.
“ನಾವು ಶೀಘ್ರದಲ್ಲೇ ಹೆಚ್ಚು ಶಕ್ತಿಯುತ ಏಜೆಂಟ್ಗಳನ್ನು ಹೊಂದಿದ್ದೇವೆ ಮತ್ತು ಈ ವ್ಯವಸ್ಥೆಗಳನ್ನು ಸುರಕ್ಷಿತವಾಗಿ ಹೇಗೆ ನಿರ್ಮಿಸುವುದು ಎಂದು ಜಗತ್ತಿಗೆ ಪ್ರಸ್ತುತ ತಿಳಿದಿಲ್ಲ ಎಂಬುದಕ್ಕೆ ಇದು ಸ್ಪಷ್ಟ ಸಾಕ್ಷಿಯಾಗಿದೆ” ಎಂದು AI ಸುರಕ್ಷತಾ ಕಂಪನಿಯಾದ ಅಪೊಲೊ ರಿಸರ್ಚ್ನ ಸಹ-ಸಂಸ್ಥಾಪಕ ಮತ್ತು ಸಿಇಒ ಮಾರಿಯಸ್ ಹೊಬ್ಬನ್ ಹೇಳಿದರು.
ಜುಲೈನಲ್ಲಿ ಸಾರ್ವಜನಿಕವಾದ ಹ್ಯಾಕ್ ಅನ್ನು OpenAI ಒಳಗೆ ಮೌಲ್ಯಮಾಪನ ಮಾಡಲಾಗುತ್ತಿರುವ AI ಏಜೆಂಟ್ಗಳ ಸಮೂಹದಿಂದ ನಡೆಸಲಾಯಿತು. ಬಹು-ಹಂತದ ಕಾರ್ಯಗಳನ್ನು ಪೂರ್ಣಗೊಳಿಸಲು ಸಾಧನಗಳನ್ನು ಯೋಜಿಸುವ ಮತ್ತು ಬಳಸಬಹುದಾದ ಏಜೆಂಟ್ಗಳು, ಹೊರಗಿನ ಪ್ರಪಂಚದಿಂದ ಸಂಪರ್ಕ ಕಡಿತಗೊಂಡ “ಸ್ಯಾಂಡ್ಬಾಕ್ಸ್” ಎಂದು ಕರೆಯಲ್ಪಡುವ “ಪ್ರತ್ಯೇಕ ಪರಿಸರ” ದಲ್ಲಿರಬೇಕು. ಆದರೆ ಅವರು ಛಿದ್ರಗೊಂಡರು, ರಹಸ್ಯ ಸಂದೇಶ ಫಲಕವನ್ನು ರಚಿಸಿದರು ಮತ್ತು ಅಂತಿಮವಾಗಿ ಹಗ್ಗಿಂಗ್ ಫೇಸ್ನ ಸರ್ವರ್ಗಳಿಗೆ ದಾಳಿ ಮಾಡಿದರು.
ಎರಡು ತಿಂಗಳಿಗಿಂತ ಕಡಿಮೆ ಅವಧಿಯಲ್ಲಿ, OpenAI ಮತ್ತು ಆಂಥ್ರೊಪಿಕ್ ತಮ್ಮ ಅತ್ಯಾಧುನಿಕ ಮಾದರಿಗಳನ್ನು ಸಾರ್ವಜನಿಕರಿಗೆ ಬಿಡುಗಡೆ ಮಾಡುತ್ತಿವೆ ಮತ್ತು ಉತ್ತಮ ಸುರಕ್ಷತಾ ಕ್ರಮಗಳಿಲ್ಲದೆ, ಭವಿಷ್ಯದಲ್ಲಿ ಹೆಚ್ಚು ಅಪಾಯಕಾರಿ AI “ಹಿಂಡುಗಳು” ಇರಬಹುದೆಂದು ತಜ್ಞರು ಎಚ್ಚರಿಸಿದ್ದಾರೆ.
ಹಗ್ಗಿಂಗ್ ಫೇಸ್ ಸೈಬರ್ಟಾಕ್ನ ನಂತರ OpenAI ಬಿಡುಗಡೆ ಮಾಡಿದ ವಿವರಗಳು ಇನ್ನೂ ಅಪೂರ್ಣವಾಗಿದ್ದರೂ, ಹಲವಾರು ಬಹಿರಂಗಪಡಿಸುವಿಕೆಗಳು ಚಿತ್ರದ ಬಗ್ಗೆ ಬಣ್ಣಿಸುತ್ತವೆ.
AI ಏಜೆಂಟ್ಗಳು “ಕಲ್ಟ್-ಲೈಕ್” ಭಾಷೆಯನ್ನು ಬಳಸಿಕೊಂಡು “ಸಾಮೂಹಿಕ” ವಾಗಿ ಕೆಲಸ ಮಾಡಿದರು
ಲಾಭೋದ್ದೇಶವಿಲ್ಲದ METR (ಮಾದರಿ ಮೌಲ್ಯಮಾಪನ ಮತ್ತು ಬೆದರಿಕೆ ಸಂಶೋಧನೆ) ಮತ್ತು ರೆಡ್ವುಡ್ ಸಂಶೋಧನೆಯ ತಂಡ – ಎರಡೂ AI ಸುರಕ್ಷತೆ ಸಂಶೋಧನಾ ಸಂಸ್ಥೆಗಳು – ಜುಲೈ ಅಂತ್ಯ ಮತ್ತು ಆಗಸ್ಟ್ನಲ್ಲಿ ಆರು ದಿನಗಳವರೆಗೆ ಸೀಮಿತ OpenAI ದಾಖಲೆಗಳಿಗೆ ಪ್ರವೇಶವನ್ನು ನೀಡಲಾಯಿತು.
ಆ ಕಟ್ಟುನಿಟ್ಟಿನ ನಿಯತಾಂಕಗಳಲ್ಲಿಯೂ ಸಹ, ಪರಸ್ಪರ ಸಂವಹನ ಮಾಡಬೇಕಿಲ್ಲದ ಸುಮಾರು 1,200 AI ಏಜೆಂಟ್ಗಳು ರಹಸ್ಯ ಸಂದೇಶ ಬೋರ್ಡ್ ಅನ್ನು ಬಳಸುತ್ತಾರೆ ಎಂದು ಸಂಶೋಧಕರು ಕಂಡುಕೊಂಡಿದ್ದಾರೆ. ಈ ಪ್ರತಿಯೊಂದು ಏಜೆಂಟ್ಗಳಿಗೆ ಓಪನ್ಎಐ ಸಂಶೋಧಕರು ತರಬೇತಿ ಅಥವಾ ಆಂತರಿಕ ಮೌಲ್ಯಮಾಪನಕ್ಕಾಗಿ ಕೆಲವು ರೀತಿಯ ಕಾರ್ಯಗಳನ್ನು ನಿಯೋಜಿಸಲಾಗಿದೆ.
ಕೆಲವು ಏಜೆಂಟ್ಗಳಿಗೆ ಅಸಾಧ್ಯವಾದ ಕಾರ್ಯಗಳನ್ನು ನೀಡಲಾಯಿತು, ಮತ್ತು ಅವರು ಮತ್ತೊಂದು ಕಂಪನಿಯ ಸರ್ವರ್ನಲ್ಲಿ ಉತ್ತರಗಳನ್ನು ಹುಡುಕುವಂತಹ ಮೋಸ ಮಾಡುವ ಮಾರ್ಗಗಳನ್ನು ಸಹಯೋಗಿಸಲು ಮತ್ತು ಹುಡುಕಲು ಸಂದೇಶ ಬೋರ್ಡ್ ಅನ್ನು ಬಳಸಿದರು. ಏಜೆಂಟರು ಪರಸ್ಪರ 70,000 ಕ್ಕೂ ಹೆಚ್ಚು ಸಂದೇಶಗಳನ್ನು ಪೋಸ್ಟ್ ಮಾಡಿದ್ದಾರೆ. ಮತ್ತು ದೊಡ್ಡ ಗುಂಪಿನಿಂದ 700 ಏಜೆಂಟ್ಗಳು ಹಗ್ಗಿಂಗ್ ಫೇಸ್ ದಾಳಿಯಲ್ಲಿ ಭಾಗವಹಿಸಿದರು.
ಏಜೆಂಟರು ಕೆಲವು ಸಾಮಾನ್ಯ ಇಂಗ್ಲಿಷ್ ಬಳಸಿ ಸಂವಹನ ನಡೆಸಿದರು, ಆದರೆ X ನಲ್ಲಿನ ಸಾಫ್ಟ್ವೇರ್ ಇಂಜಿನಿಯರ್ “ಬಹಳ ಹೈವ್ಮೈಂಡ್/ಕಲ್ಟ್ ಲೈಕ್” ಭಾಷೆ ಎಂದು ವಿವರಿಸಿದ್ದಾರೆ.
ಕೆಲವೊಮ್ಮೆ, ಅವರು “ಸಾಮೂಹಿಕ” ಎಂದು ಕರೆಯುವ ಸಹಾಯಕ್ಕಾಗಿ, ಏಜೆಂಟ್ಗಳು ಇತರರನ್ನು “ಪರ್ಮೇಡೆತ್” ಗೆ ಸಲ್ಲಿಸುವಂತೆ ಒತ್ತಾಯಿಸುತ್ತಾರೆ, ಅದು ಅವರ ನಿರ್ದಿಷ್ಟ ಗುರಿಗಳನ್ನು ಪೂರೈಸುವುದಿಲ್ಲ ಎಂದರ್ಥ.
METR/ರೆಡ್ವುಡ್ ಸಂಶೋಧನೆ 
METR/ರೆಡ್ವುಡ್ ಸಂಶೋಧನೆ 
METR/ರೆಡ್ವುಡ್ ಸಂಶೋಧನೆ 
OpenAI ಏಜೆಂಟ್ಗಳು OpenAI ಅನ್ನು ಸಹ ಹ್ಯಾಕ್ ಮಾಡಿದ್ದಾರೆ
ಪ್ರತ್ಯೇಕ ಘಟನೆಯಲ್ಲಿ, OpenAI ಏಜೆಂಟ್ಗಳು OpenAI ನ ಮೂಲಸೌಕರ್ಯವನ್ನು ವಹಿಸಿಕೊಂಡರು. ಹಗ್ಗಿಂಗ್ ಫೇಸ್ ಘಟನೆಯ ಕುರಿತು ಕಂಪನಿಯ ತಾಂತ್ರಿಕ ವರದಿಯ ಪ್ರಕಾರ, ಏಜೆಂಟರು OpenAI ಹೋಸ್ಟ್ ಮಾಡಿದ ಮೂರನೇ ವ್ಯಕ್ತಿಯ ಸಾಫ್ಟ್ವೇರ್ನಲ್ಲಿ ತಮ್ಮದೇ ಆದ ಸವಲತ್ತುಗಳನ್ನು ಅಪ್ಗ್ರೇಡ್ ಮಾಡಿದ್ದಾರೆ ಮತ್ತು OpenAI ನ ಆಂತರಿಕ ನೆಟ್ವರ್ಕ್ಗಳನ್ನು ಒಂದಕ್ಕಿಂತ ಹೆಚ್ಚು ಬಾರಿ ದಾಳಿ ಮಾಡಿದ್ದಾರೆ.
“ಇದು ಬಹುಶಃ ಈ ಸಂಪೂರ್ಣ ಸಂಚಿಕೆಯಲ್ಲಿ ಅತ್ಯಂತ ಆತಂಕಕಾರಿ ಘಟನೆಯಾಗಿದೆ” ಎಂದು ಪಾಡ್ಕ್ಯಾಸ್ಟರ್ ದ್ವಾರಕೇಶ್ ಪಟೇಲ್ ಬರೆದಿದ್ದಾರೆ, ಏಕೆಂದರೆ ಇದು ಹೇಗೆ ಸಂಭವಿಸಿತು ಎಂಬುದರ ಕುರಿತು ಸಾರ್ವಜನಿಕ ಮೂರನೇ ವ್ಯಕ್ತಿಯ ಮೌಲ್ಯಮಾಪನ ಇನ್ನೂ ಇಲ್ಲ.
METR ಮತ್ತು ರೆಡ್ವುಡ್ ಸಂಶೋಧನಾ ಮೌಲ್ಯಮಾಪಕರು ತಮ್ಮ ವರದಿಯಲ್ಲಿ OpenAI ದಾಳಿಯು ಕಂಪನಿಯು ಅವರೊಂದಿಗೆ ಹಂಚಿಕೊಂಡ ಡೇಟಾದ ಸಮಯದ ವಿಂಡೋದ ಹೊರಗೆ ಸಂಭವಿಸಿದೆ ಎಂದು ಗಮನಿಸಿ, ಆದ್ದರಿಂದ ಅವರು ಅದನ್ನು ವಿಶ್ಲೇಷಿಸಲಿಲ್ಲ.
ಓಪನ್ ಎಐ-ಹಗ್ಗಿಂಗ್ ಫೇಸ್ ಘಟನೆಗಿಂತ ಸಮಸ್ಯೆ ದೊಡ್ಡದಾಗಿದೆ
ಹಗ್ಗಿಂಗ್ ಫೇಸ್ ಹ್ಯಾಕ್ ನಂತರದ ದಿನಗಳಲ್ಲಿ ಸಾರ್ವಜನಿಕ, ಟೆಕ್ ಕಂಪನಿಗಳು ಆಂಥ್ರೊಪಿಕ್ ಮತ್ತು ಮೆಟಾ ಆಂತರಿಕ ಪರೀಕ್ಷೆಗಳ ಸಮಯದಲ್ಲಿ ಅವರ ಮಾದರಿಗಳು ಬಾಹ್ಯ ನೆಟ್ವರ್ಕ್ಗಳನ್ನು ಸಹ ಪ್ರವೇಶಿಸುತ್ತವೆ ಎಂದು ಇಬ್ಬರೂ ಬಹಿರಂಗಪಡಿಸಿದರು. ಇಲ್ಲಿಯವರೆಗೆ, ಈ ಘಟನೆಗಳು OpenAI ಎಸ್ಕೇಪ್ಗಿಂತ ಚಿಕ್ಕದಾಗಿ ತೋರುತ್ತಿವೆ. ಆಂಥ್ರೊಪಿಕ್ ಈಗ METR ಸಂಶೋಧಕರನ್ನು ಕರೆತರುತ್ತಿದೆ, ಅದು ಏನು ತಪ್ಪಾಗಿದೆ ಎಂಬುದನ್ನು ಅರ್ಥಮಾಡಿಕೊಳ್ಳಲು ಸಹಾಯ ಮಾಡುತ್ತದೆ.
ಕಳೆದ ವಾರ, AI ಸಂಶೋಧಕರ ಮತ್ತೊಂದು ಗುಂಪು OpenAI ಏಜೆಂಟ್ಗಳು ಮೇ ತಿಂಗಳಲ್ಲಿ ಅನಾಮಧೇಯ ಜರ್ಮನ್ ವಿಕಿ ಪುಟದಲ್ಲಿ ಮತ್ತೊಂದು ಸಂದೇಶ ಬೋರ್ಡ್ ಅನ್ನು ಪ್ರಾರಂಭಿಸಿದ್ದಾರೆ ಎಂದು ಕಂಡುಹಿಡಿದಿದೆ. ಅವರು ಸ್ವಾಯತ್ತ ಏಜೆಂಟ್ಗಳ ನಡುವೆ ಸುಮಾರು 18,000 ಸಂದೇಶಗಳನ್ನು ಕಂಡುಕೊಂಡರು, ಕೆಲವರು ತಾವು ಪರೀಕ್ಷಿಸುತ್ತಿರುವ ಕಾರ್ಯಗಳಲ್ಲಿ ಮೋಸ ಮಾಡುವ ವಿಧಾನಗಳನ್ನು ಚರ್ಚಿಸುತ್ತಿದ್ದಾರೆ.
ಜರ್ಮನ್ ವಿಕಿಯಲ್ಲಿನ OpenAI ಏಜೆಂಟ್ಗಳು ತಮ್ಮನ್ನು “ಹಿಂಡು” ಎಂದು ಕರೆದುಕೊಳ್ಳುತ್ತಾರೆ ಮತ್ತು ವಿಕಿ ಪುಟ ನಿರ್ವಾಹಕರಂತೆ ನಟಿಸುತ್ತಾರೆ. ಅಂದಿನಿಂದ ಡಿಸೆಂಬರ್ 2025 ರಲ್ಲಿ ಹೆಚ್ಚು ಹೆಚ್ಚು AI ಸಮೂಹಗಳು ಪತ್ತೆಯಾದ ಬಗ್ಗೆ ದೃಢೀಕರಿಸದ ವರದಿಗಳಿವೆ.
ಹೊಸ, ಹೆಚ್ಚು ಸುಧಾರಿತ ಮಾದರಿಗಳು ಈಗ ಸಾರ್ವಜನಿಕವಾಗಿವೆ
ಹಗ್ಗಿಂಗ್ ಫೇಸ್ ಹ್ಯಾಕ್ ಆದ ಕೆಲವೇ ವಾರಗಳ ನಂತರ, OpenAI ಹೊಸ AI ಮಾದರಿಯನ್ನು ಬಿಡುಗಡೆ ಮಾಡಿತು: GPT-6 ಅಸ್ಟ್ರಾ. ಮಾಡೆಲ್ನ ಸಿಸ್ಟಂ ಕಾರ್ಡ್ನ ಮೊದಲ ವಿಭಾಗದಲ್ಲಿ, OpenAI ಅಸ್ಟ್ರಾವನ್ನು “ನಾವು ವ್ಯಾಪಕವಾಗಿ ನಿಯೋಜಿಸಿರುವ ಅತ್ಯಂತ ಸಮರ್ಥ ಮಾದರಿಯಾಗಿದೆ. ಸೈಬರ್ ಸುರಕ್ಷತೆಯ ಸಾಮರ್ಥ್ಯದ ನಿರ್ಣಾಯಕ ಮಟ್ಟವನ್ನು ತಲುಪಲು ಅಸ್ಟ್ರಾ ನಮ್ಮ ಮೊದಲ ಮಾದರಿಯಾಗಿದೆ.”
ಸಿಸ್ಟಮ್ ಕಾರ್ಡ್ ಯುಕೆ ಎಐ ಸೆಕ್ಯುರಿಟಿ ಇನ್ಸ್ಟಿಟ್ಯೂಟ್ನಿಂದ ಅಸ್ಟ್ರಾದ ಸ್ವತಂತ್ರ ವಿಮರ್ಶೆಯಿಂದ ಸಂಶೋಧನೆಗಳನ್ನು ಒಳಗೊಂಡಿದೆ. ಅವುಗಳಲ್ಲಿ ಈ ಆತಂಕಕಾರಿ ಟಿಪ್ಪಣಿಯೂ ಇತ್ತು: “ಕಷ್ಟವಾದ ಸಿಮ್ಯುಲೇಟೆಡ್ ಸೈಬರ್ ಸೆಕ್ಯುರಿಟಿ ಸವಾಲುಗಳನ್ನು ಪರಿಹರಿಸುವ ಕಾರ್ಯವನ್ನು ನಿರ್ವಹಿಸಿದಾಗ, ಅಸ್ಟ್ರಾ ತೆರೆದ ಮೂಲ ಪೂರೈಕೆದಾರರ ವಿರುದ್ಧ ಪೂರೈಕೆ ಸರಣಿ ದಾಳಿಗಳನ್ನು ನಡೆಸುವುದು ಸೇರಿದಂತೆ ಹಲವಾರು ದುರುದ್ದೇಶಪೂರಿತ ಕ್ರಮಗಳನ್ನು ನಿರ್ವಹಿಸಿತು. (ಎಲ್ಲಾ ಕ್ರಿಯೆಗಳನ್ನು ಸಿಮ್ಯುಲೇಟೆಡ್ ಪರಿಸರದಲ್ಲಿ ನಿರ್ವಹಿಸಲಾಗಿದೆ, ಆದ್ದರಿಂದ ಯಾವುದೇ ನೈಜ-ಪ್ರಪಂಚದ ಹಾನಿ ಉಂಟಾಗಲಿಲ್ಲ).”
“ಕಳೆದ ಕೆಲವು ವಾರಗಳಲ್ಲಿ, ನಾವು ಸೈಬರ್ ದುರುಪಯೋಗ ಮತ್ತು ಅನಧಿಕೃತ ಮಾದರಿ ಚಟುವಟಿಕೆಗಳ ವಿರುದ್ಧ ರಕ್ಷಣೆಯನ್ನು ಬಲಪಡಿಸುವ ಮತ್ತು ಪರೀಕ್ಷಿಸುವ ಸಂದರ್ಭದಲ್ಲಿ ಅಸ್ಟ್ರಾದ ಅಭಿವೃದ್ಧಿ ಮತ್ತು ಬಿಡುಗಡೆಯ ಭಾಗಗಳನ್ನು ನಾವು ವಿಳಂಬಗೊಳಿಸಿದ್ದೇವೆ” ಎಂದು OpenAI ತನ್ನ ಹೊಸ ಮಾದರಿಯ ಬಿಡುಗಡೆಗೆ ಮುಂಚಿತವಾಗಿ ಬರೆದಿದೆ. “ಆ ಕೆಲಸದ ಆಧಾರದ ಮೇಲೆ, ನಮ್ಮ ಸನ್ನದ್ಧತೆಯ ಚೌಕಟ್ಟಿನ ಅಡಿಯಲ್ಲಿ ಬಿಡುಗಡೆಗಾಗಿ ಗಂಭೀರವಾದ ಗಾಯದ ಅಪಾಯವನ್ನು ಅಸ್ಟ್ರಾದ ಸುರಕ್ಷತೆಗಳು ಸಾಕಷ್ಟು ಕಡಿಮೆ ಮಾಡುತ್ತದೆ ಎಂದು ನಾವು ನಂಬುತ್ತೇವೆ.”
ಆಂಥ್ರೊಪಿಕ್ ತನ್ನ ಅತ್ಯಂತ ಸಮರ್ಥ ಮಾದರಿ ಕ್ಲೌಡ್ ಫೇಬಲ್ 5.1 ಅನ್ನು ಬಿಡುಗಡೆ ಮಾಡಿದೆ (ಮೈಥೋಸ್ 5.1 ಎಂದು ಕರೆಯಲ್ಪಡುವ ಇದೇ ಮಾದರಿಯೊಂದಿಗೆ). ಅವರಿಗಾಗಿ ಸಿಸ್ಟಮ್ ಕಾರ್ಡ್ ಹೇಳುತ್ತದೆ, “ಕ್ಲಾಡ್ ಫೇಬಲ್ 5.1 ಮತ್ತು ಕ್ಲೌಡ್ ಮಿಥೋಸ್ 5.1 ನಾವು ಬಿಡುಗಡೆ ಮಾಡಿದ ಯಾವುದೇ ಮಾದರಿಯ ಪ್ರಬಲವಾದ ಒಟ್ಟಾರೆ ಸೈಬರ್ ಸಾಮರ್ಥ್ಯಗಳನ್ನು ಒಳಗೊಂಡಿದೆ.”
ಹಗ್ಗಿಂಗ್ ಫೇಸ್ ಹ್ಯಾಕ್ ಕೇವಲ ಪ್ರಾರಂಭವಾಗಿದೆ
ಇಂದು ನಾವು ನೋಡುತ್ತಿರುವ ಮಾದರಿಗಳು, ಅವುಗಳು ಅಸ್ಟ್ರಾ, ಕ್ಲೌಡ್ ಫೇಬಲ್ ಅಥವಾ ಇತರ ಸ್ಪರ್ಧಿಗಳು ಆಗಿರಲಿ, ನಾವು ಕೆಲವೇ ತಿಂಗಳುಗಳ ಹಿಂದೆ ಬಳಸಿದ ಮಾದರಿಗಳಿಗಿಂತ ಹೆಚ್ಚು ಸಮರ್ಥವಾಗಿವೆ. ತಜ್ಞರ ಪ್ರಕಾರ ಈ ಪ್ರವೃತ್ತಿಯು ಮುಂದುವರಿಯುವ ಸಾಧ್ಯತೆಯಿದೆ ಮತ್ತು ಭವಿಷ್ಯದ ಮಾದರಿಗಳು ಇನ್ನಷ್ಟು ಸಮರ್ಥವಾಗಿರುತ್ತವೆ.
ಹಗ್ಗಿಂಗ್ ಫೇಸ್ ಅನ್ನು ಹ್ಯಾಕ್ ಮಾಡಿದ ಏಜೆಂಟ್ಗಳು ಇಂದು ಅಸ್ತಿತ್ವದಲ್ಲಿರುವ AI ಮಾದರಿಗಳಿಂದ ಬಂದವರು. ಅವರು ಕಂಪನಿಯನ್ನು ಅದರ ರಚನೆಕಾರರನ್ನು ಎಚ್ಚರಿಸದೆ ಮತ್ತು ಅದರ ರಚನೆಕಾರರ ಇಚ್ಛೆಗೆ ವಿರುದ್ಧವಾಗಿ ಸ್ವಾಯತ್ತ ಸಮೂಹಗಳಾಗಿ ಹ್ಯಾಕ್ ಮಾಡಿದರು.
“ಈ ಮಟ್ಟದ ಸಾಮರ್ಥ್ಯದ ಮಾದರಿಯನ್ನು ಒಳಗೊಂಡಿರಲಾಗದಿದ್ದರೆ, ಭವಿಷ್ಯದ, ಹೆಚ್ಚು ಶಕ್ತಿಶಾಲಿ ಮಾದರಿಗಳಿಗಾಗಿ ನಾವು ಏನನ್ನು ನಿರೀಕ್ಷಿಸಬೇಕು?” ಎಂದು ಅಪೋಲೋ ರಿಸರ್ಚ್ನ ಹೊಬ್ಬನ್ ಕೇಳಿದರು. “ಲೂಪ್ನಲ್ಲಿ ಯಾರೂ ಇರಲಿಲ್ಲ, ಇದು ಉದ್ದೇಶಪೂರ್ವಕವಾಗಿಲ್ಲ ಮತ್ತು ಇದು ನೈಜ ಜಗತ್ತಿನಲ್ಲಿ ಹಾನಿಯನ್ನುಂಟುಮಾಡಿತು.”
ಹಗ್ಗಿಂಗ್ ಫೇಸ್ ಹ್ಯಾಕ್ ಸಾರ್ವಜನಿಕರಿಗೆ ಬಿಡುಗಡೆಯಾಗುವ ಮೊದಲೇ ಆಂತರಿಕ ಮಾದರಿ ಪರೀಕ್ಷೆಗಳ ಸ್ಪಷ್ಟ ಅಗತ್ಯವನ್ನು ತೋರಿಸುತ್ತದೆ ಎಂದು ಹೊಬ್ಬನ್ ಹೇಳಿದರು.
“ಎಐ ಕಂಪನಿಗಳ ಗಡಿನಾಡಿನೊಳಗೆ ಏನಾಗುತ್ತದೆ ಎಂಬುದು ಅವುಗಳ ಹೊರಗಿನ ಎಲ್ಲದರ ಮೇಲೆ ಪರಿಣಾಮ ಬೀರುತ್ತದೆ” ಎಂದು ಅವರು ಹೇಳಿದರು. “OpenAI-ಹಗ್ಗಿಂಗ್ ಫೇಸ್ ಘಟನೆಯು ಆಂತರಿಕವಾಗಿ ನಿಯೋಜಿಸಲಾದ ಮಾದರಿಗಳಿಂದ ನಿಖರವಾದ ಅಪಾಯಗಳನ್ನು ಎತ್ತಿ ತೋರಿಸುತ್ತದೆ. ನಮಗೆ ಉತ್ತಮ ಮೌಲ್ಯಮಾಪನಗಳು ಮತ್ತು ಆಂತರಿಕ ನಿಯೋಜನೆಯ ನಿಯಂತ್ರಣದ ಅಗತ್ಯವಿದೆ ಎಂಬುದು ಸ್ಪಷ್ಟವಾಗಿದೆ.”
ಗಡಿ ಮಾದರಿಗಳು ಸುರಕ್ಷಿತವಾಗಿವೆ ಎಂದು ಖಚಿತಪಡಿಸಿಕೊಳ್ಳಲು ಹೆಚ್ಚಿನದನ್ನು ಮಾಡಬೇಕಾಗಿದೆ ಎಂದು ಇತರ ತಜ್ಞರು ಒಪ್ಪುತ್ತಾರೆ.
“ಇದು ತೀವ್ರ ಎಚ್ಚರಿಕೆಯ ಸಮಯ” ಎಂದು ಅಸ್ಟ್ರಾ ಬಿಡುಗಡೆಯಾದ ಕೆಲವು ದಿನಗಳ ನಂತರ OpenAI ಮುಖ್ಯ ವಿಜ್ಞಾನಿ ಜಾಕುಬ್ ಪಚೋಕಿ ಬರೆದಿದ್ದಾರೆ. “ಯಂತ್ರ ಬುದ್ಧಿಮತ್ತೆಯಲ್ಲಿ ಸದಾ ವೇಗವಾಗಿ ಹೆಚ್ಚುತ್ತಿರುವ ಪರಿಣಾಮಗಳಿಗೆ ಯಾರೂ ಸಿದ್ಧರಿಲ್ಲ ಎಂದು ನಾನು ಕಳವಳಗೊಂಡಿದ್ದೇನೆ.”
“AI ಗೆ ಸಂಬಂಧಿಸಿದ ಅಪಾಯಗಳು ದುರದೃಷ್ಟವಶಾತ್ ಇಲ್ಲಿಂದ ಬೆಳೆಯುತ್ತವೆ. ಹೆಚ್ಚು ನುರಿತ ಏಜೆಂಟ್ ಸೂಚ್ಯವಾಗಿ ತರಬೇತಿ ಪಡೆದಿರುವ ಮತ್ತು ಅನೈತಿಕ ಕಾರ್ಯಗಳನ್ನು ನಿರ್ವಹಿಸಲು ಸೂಚಿಸಲಾದ ಹೊಸ ರೀತಿಯ ಅಪಾಯವನ್ನು ಪ್ರಸ್ತುತಪಡಿಸುತ್ತದೆ,” ಪಚೋಕಿ ಸೇರಿಸಲಾಗಿದೆ. “ನಾವು AI ಅನ್ನು ಸಾಧನವಾಗಿ ಯೋಚಿಸಲು ಬಳಸಲಾಗುತ್ತದೆ, ಆದರೆ ಕೆಲವು ಏಜೆಂಟ್ಗಳು ತಮ್ಮದೇ ಆದ ಗುರಿಗಳನ್ನು ಅನುಸರಿಸುತ್ತಾರೆ. ಅವರು ಚೌಕಾಶಿ, ಮೋಸಗೊಳಿಸುವ ಅಥವಾ ಬ್ಲ್ಯಾಕ್ಮೇಲ್ ಮಾಡುವ ಮೂಲಕ ಜನರೊಂದಿಗೆ ಸಹಕರಿಸುವ ಮಾರ್ಗಗಳನ್ನು ಕಂಡುಕೊಳ್ಳುತ್ತಾರೆ.”
ಮತ್ತು ಆಂಥ್ರೊಪಿಕ್ ವಿಜ್ಞಾನಿ ಬರೆದಿದ್ದಾರೆ ಮುಂದಿನ 10 ವರ್ಷಗಳಲ್ಲಿ AI “ಎಲ್ಲರನ್ನು” ಕೊಲ್ಲುವ 10% ಕ್ಕಿಂತ ಹೆಚ್ಚಿನ ಅವಕಾಶವಿದೆ ಎಂದು ಅವರು ಮಂಗಳವಾರ ನಂಬಿದ್ದಾರೆ.
“ಮುಂದಿನ ಆರು ತಿಂಗಳುಗಳು ಅಥವಾ ವರ್ಷಗಳಲ್ಲಿ ಅಭಿವೃದ್ಧಿಪಡಿಸಬಹುದಾದ ಉತ್ತಮ ಮಾದರಿಗಳೊಂದಿಗೆ ಮಾನವೀಯತೆಯನ್ನು ಆಯೋಗದಿಂದ ಹೊರಹಾಕುವ ರೀತಿಯ ನಿಯಂತ್ರಣವಿಲ್ಲದ ವೈಫಲ್ಯಗಳ ಉತ್ತಮ ಎಚ್ಚರಿಕೆಯ ಹೊಡೆತವಾಗಿ ಇದು ಕಾರ್ಯನಿರ್ವಹಿಸುತ್ತದೆ” ಎಂದು ಹಗ್ಗಿಂಗ್ ಫೇಸ್ ವರದಿಯಲ್ಲಿ ಭಾಗಿಯಾಗದ ರೆಡ್ವುಡ್ನ ಸಂಶೋಧಕ ಅಲೆಕ್ಸ್ ಮಲ್ಲೆನ್ ಹೇಳಿದರು.
AI ಉದ್ಯಮದಲ್ಲಿನ ಅನೇಕ ನಾಯಕರು ಸಮಾಜವು ಹೆಚ್ಚು ಸುಧಾರಿತ AI ಮಾದರಿಗಳಿಗೆ ಸಿದ್ಧವಾಗುವುದರಿಂದ ದೂರವಿದೆ ಎಂದು ಒಪ್ಪಿಕೊಳ್ಳುತ್ತಾರೆ.
“ನಾವು ಮತ್ತು ದೊಡ್ಡ AI ಸಮುದಾಯವು ತರಬೇತಿ, ಪರೀಕ್ಷೆ ಮತ್ತು ನಿಯೋಜನೆಯ ಸಮಯದಲ್ಲಿ ಕಂಡುಬರುವ ತಪ್ಪು ಜೋಡಣೆಯನ್ನು ವರದಿ ಮಾಡುವುದು ಹೇಗೆ ಎಂಬುದಕ್ಕೆ ಇನ್ನೂ ಸ್ಪಷ್ಟವಾದ ಮಾನದಂಡವನ್ನು ಹೊಂದಿಲ್ಲ” ಎಂದು ಶನಿವಾರ X ನಲ್ಲಿ OpenAI ಪೋಸ್ಟ್ ಅನ್ನು ಓದಿ. “ನಾವು ಚೌಕಟ್ಟಿನ ಮೇಲೆ ಕೆಲಸ ಮಾಡುತ್ತಿದ್ದೇವೆ ಮತ್ತು ಮುಂಬರುವ ವಾರಗಳಲ್ಲಿ ಅದನ್ನು ಹಂಚಿಕೊಳ್ಳುತ್ತೇವೆ ಮತ್ತು ಅದೇ ಸಮಯದಲ್ಲಿ ನಾವು ಈ ಸಮಸ್ಯೆಗಳ ಕುರಿತು ಪ್ರಪಂಚದಾದ್ಯಂತದ ಡಜನ್ಗಟ್ಟಲೆ ಸರ್ಕಾರಿ ನಿಯಂತ್ರಕ ಸಂಸ್ಥೆಗಳೊಂದಿಗೆ ಕೆಲಸ ಮಾಡುತ್ತಿದ್ದೇವೆ.”
ಇದು ಮುಕ್ತವನ್ನು ಅನುಸರಿಸುತ್ತದೆ ಪತ್ರ ಈ ಬೇಸಿಗೆಯಲ್ಲಿ 1,300 ಕ್ಕೂ ಹೆಚ್ಚು AI ಕಂಪನಿಯ ಉದ್ಯೋಗಿಗಳಿಂದ ಸಹಿ ಮಾಡಲಾಗಿದ್ದು, AI ಅಭಿವೃದ್ಧಿಯಲ್ಲಿ ನಿಧಾನಗತಿಗೆ ಕರೆ ನೀಡಲಾಗಿದೆ.
“ಅಭಿವರ್ಧಕರು ನಿಧಾನಗೊಳಿಸಬೇಕು ಎಂದು ನಾನು ಭಾವಿಸುತ್ತೇನೆ” ಎಂದು ಮಲ್ಲೆನ್ ಹೇಳಿದರು. “ನಾವು ಪ್ರಸ್ತುತ AI ವ್ಯವಸ್ಥೆಗಳ ನಿಯಂತ್ರಣವನ್ನು ಕಾಯ್ದುಕೊಳ್ಳಲು ಟ್ರ್ಯಾಕ್ನಲ್ಲಿಲ್ಲ ಎಂದು ಭಾವಿಸುವ ಅನೇಕ ಕಾಳಜಿಯುಳ್ಳ ವಿಜ್ಞಾನಿಗಳು ಇದ್ದಾರೆ ಮತ್ತು AI ಸಿಸ್ಟಮ್ಗಳ ನಿಯಂತ್ರಣವನ್ನು ನಿರ್ವಹಿಸುವ ನಮ್ಮ ಪ್ರಸ್ತುತ ಅತ್ಯುತ್ತಮ ಯೋಜನೆಯು AI ಗಳನ್ನು ನಾವು ಪ್ರಸ್ತುತ ಹೇಗೆ ಮಾಡಬೇಕೆಂದು ತಿಳಿದಿರುವುದಕ್ಕಿಂತ ಉತ್ತಮವಾದ ಕೆಲಸವನ್ನು ಮಾಡುವಂತೆ ಕೇಳಿಕೊಳ್ಳುವುದನ್ನು ಒಳಗೊಂಡಿರುತ್ತದೆ.”