Business

ChatGPT는 학계를 변화시킬 수 있습니다. 하지만 아직 A+ 학생은 아닙니다 : NPR

Advertisements


ChatGPT에 프롬프트를 입력하면 나만의 가상 비서가 됩니다.

NPR의 OpenAI/스크린샷


캡션 숨기기

캡션 전환

NPR의 OpenAI/스크린샷


ChatGPT에 프롬프트를 입력하면 나만의 가상 비서가 됩니다.

NPR의 OpenAI/스크린샷

챗봇이 당신을 위해 할 수 있는데 왜 숙제를 합니까? ChatGPT라는 새로운 인공 지능 도구는 수학 문제를 풀고, 대학 에세이를 작성하고, 연구 논문을 작성하는 초인적인 능력으로 인터넷을 흥분시켰습니다.

개발자 OpenAI가 지난 달 텍스트 기반 시스템을 대중에게 공개한 후 일부 교육자들은 그러한 AI 시스템이 학계를 더 좋게 또는 더 나쁘게 변화시켜야 할 가능성에 대해 경종을 울리고 있습니다.

AI는 기본적으로 숙제를 망쳤습니다. 말했다 펜실베이니아 대학교 와튼 경영대학원의 Ethan Mollick 교수는 트위터에서 이렇게 말했습니다.

이 도구는 그의 많은 학생들 사이에서 즉각적인 인기를 얻었습니다. 그는 NPR과의 인터뷰에서 말했습니다. 모닝 에디션가장 즉각적인 명백한 사용은 AI가 작성한 작업을 표절하여 속이는 방법이라고 그는 말했습니다.

학업 사기는 제쳐두고 Mollick은 학습 동반자로서의 이점도 보고 있습니다.

그는 MBA 학생들을 위한 강의 계획서, 강의, 과제 및 채점 루브릭을 만드는 데 도움을 주기 위해 그것을 자신의 교사 보조로 사용했습니다.

그는 “학술 논문 전체를 붙여넣고 요약해달라고 요청할 수 있다. 코드에서 오류를 찾아 수정하고 왜 틀렸는지 알려달라고 요청할 수 있다”고 말했다. “이 능력의 승수는 우리가 머리를 제대로 돌리지 못하고 있다고 생각합니다. 그것은 절대적으로 놀랍습니다.”라고 그는 말했습니다.

설득력이 있지만 신뢰할 수 없는 봇

그러나 신흥 AI 기술과 마찬가지로 초인적인 가상 비서는 한계가 있습니다. ChatGPT는 결국 인간에 의해 만들어졌습니다. OpenAI는 실제 인간 대화의 대규모 데이터 세트를 사용하여 도구를 교육했습니다.

Mollick은 “이 문제에 대해 생각하는 가장 좋은 방법은 전지전능하고 간절히 바라는 인턴과 대화를 나누는 것”이라고 말했습니다.

그것도 자신 있게 거짓말을 합니다. 권위 있는 어조에도 불구하고 ChatGPT가 답변이 없을 때 알려주지 않는 경우가 있습니다.

이것이 스위스 취리히에 기반을 둔 데이터 과학자인 Teresa Kubacka가 언어 모델을 실험하면서 발견한 것입니다. Ph.D.를 위해 물리학을 공부한 Kubacka는 가상의 물리적 현상에 대해 물어봄으로써 도구를 테스트했습니다.

Advertisements

그녀는 “나는 내가 존재하지 않는다고 생각하는 것에 대해 의도적으로 그녀에게 물었다. 그래서 그들이 실제로 존재하는 것과 존재하지 않는 것에 대한 개념도 가지고 있는지 판단할 수 있다”고 그녀는 말했다.

그녀는 ChatGPT가 너무 구체적이고 그럴듯하게 들리는 대답을 제시했고, 그녀는 가짜 현상인 “사이클로이드 역 전자석”이 실제로 진짜인지 조사해야 한다고 말했습니다.

그녀가 자세히 살펴보니 의심되는 출처 자료도 가짜였다고 그녀는 말했습니다. 잘 알려진 물리학 전문가들의 이름이 나열되어 있었지만 그들이 저술한 것으로 추정되는 출판물의 제목은 존재하지 않는다고 그녀는 말했습니다.

Kubacka는 “이곳이 위험해집니다.”라고 말했습니다. “참고 문헌을 신뢰할 수 없는 순간 인용된 과학에 대한 신뢰가 어느 정도 잠식됩니다.”라고 그녀는 말했습니다.

과학자들은 이러한 가짜 세대를 “환각”이라고 부릅니다.

알렌 인공지능 연구소(Allen Institute for AI)의 창립 CEO인 오렌 에치오니(Oren Etzioni)는 “아직도 질문을 하면 매우 인상적인 답을 줄 것”이라고 말했다. 최근에. 물론 사실을 주의 깊게 확인하거나 확증하지 않으면 문제가 됩니다.


챗봇을 실험하는 사용자는 도구를 테스트하기 전에 ChatGPT가 “때때로 부정확하거나 오해의 소지가 있는 정보를 생성할 수 있다”는 경고를 받습니다.

NPR의 OpenAI/스크린샷


캡션 숨기기

캡션 전환

NPR의 OpenAI/스크린샷

AI 언어 도구를 면밀히 조사할 수 있는 기회

챗봇의 무료 미리 보기를 실험하는 사용자는 도구를 테스트하기 전에 ChatGPT가 “때때로 부정확하거나 오해의 소지가 있는 정보, 유해한 지침 또는 편향된 콘텐츠를 생성할 수 있다”는 경고를 받습니다.

OpenAI의 CEO인 Sam Altman은 이달 초 현재 반복에서 “중요한” 도구에 의존하는 것은 실수가 될 것이라고 말했습니다. “진보의 미리보기입니다.” 그는 트윗했다.

지난달 메타가 공개한 또 다른 AI 언어 모델의 실패는 종료로 이어졌다. 이 회사는 과학자들을 돕기 위해 고안된 도구인 Galactica에 대한 데모를 대중에게 테스트하도록 권장한 지 불과 3일 만에 철회했습니다.

마찬가지로 Etzioni는 ChatGPT가 좋은 과학을 생산하지 못한다고 말합니다. 그러나 모든 결점에도 불구하고 그는 ChatGPT의 공개 데뷔를 긍정적으로 보고 있습니다. 그는 이것을 동료 검토를 위한 순간으로 본다.

“ChatGPT는 출시된 지 며칠 밖에 되지 않았습니다.”라고 AI 연구소에 이사회 멤버이자 고문으로 남아 있는 Etzioni는 말했습니다. 그것은 ‘그가 할 수 있는 것과 할 수 없는 것을 이해하고 ‘우리가 그것에 대해 무엇을 할 것인가?’라는 대화를 본격적으로 시작할 수 있는 기회를 우리에게 주는 것입니다. “

그가 “모호함에 의한 보안”이라고 설명하는 대안은 오류가 있는 AI를 개선하는 데 도움이 되지 않을 것이라고 그는 말했습니다. “우리가 문제를 숨기면 어떻게 될까요? 그게 문제를 해결하는 방법이 될까요? 소프트웨어의 세계가 아니라 일반적으로 해결되지 않았습니다.”

Advertisements

Comments

comments

Related Articles

Leave a Reply

Your email address will not be published. Required fields are marked *

Back to top button