Generative AI Explained

https://courses.nvidia.com/courses/course-v1:DLI+S-FX-07+V1/

What technologies have propelled the advancements in Generative Artificial Intelligence?

GPU computing that enables parallel processing of large datasets (scale up)

Network capabilities that enable distributed systems to work in parallel (scale out)

Software that enables developers to leverage powerful hardware

Cloud services that enable access to scarce and expensive hardware

Innovation in neural network architectures

 

생성 인공 지능(Generative Artificial Intelligence)의 발전을 촉진한 기술은 무엇입니까?

대규모 데이터 세트의 병렬 처리(스케일 업)를 가능하게 하는 GPU 컴퓨팅
분산 시스템이 병렬로 작동할 수 있도록 하는 네트워크 기능(수평 확장)
개발자가 강력한 하드웨어를 활용할 수 있게 해주는 소프트웨어
희귀하고 값비싼 하드웨어에 대한 액세스를 가능하게 하는 클라우드 서비스
신경망 아키텍처의 혁신

----------------------------------------------------------------------------

What are the benefits of Generative Artificial Intelligence? 

Generative AI algorithms can be used to create new, original content, such as images, videos, and text. This can be useful for applications such as entertainment, advertising, and creative art

Generative AI algorithms can be used to improve the efficiency and accuracy of existing AI systems, such as natural language processing and computer vision. For example, Generative AI algorithms can be used to create synthetic data that can be used to train and evaluate other AI algorithms

Generative AI algorithms can be used to explore and analyze complex data in new ways, allowing businesses and researchers to uncover hidden patterns and trends that may not be apparent from the raw data alone

Generative AI algorithms can help automate and accelerate a variety of tasks and processes, saving time and resources for businesses and organizations

 

생성 인공 지능의 이점은 무엇입니까?
 
* 생성적 AI 알고리즘을 사용하여 이미지, 비디오, 텍스트와 같은 새롭고 독창적인 콘텐츠를 만들 수 있습니다. 이는 엔터테인먼트, 광고, 창작 예술과 같은 응용 분야에 유용할 수 있습니다.
* 생성적 AI 알고리즘은 자연어 처리, 컴퓨터 비전 등 기존 AI 시스템의 효율성과 정확성을 향상시키는 데 사용될 수 있습니다. 예를 들어, 생성적 AI 알고리즘을 사용하면 다른 AI 알고리즘을 훈련하고 평가하는 데 사용할 수 있는 합성 데이터를 생성할 수 있습니다.
* 생성적 AI 알고리즘을 사용하면 복잡한 데이터를 새로운 방식으로 탐색하고 분석할 수 있으므로 기업과 연구자는 원시 데이터만으로는 명확하지 않을 수 있는 숨겨진 패턴과 추세를 발견할 수 있습니다.
* 생성적 AI 알고리즘은 다양한 작업과 프로세스를 자동화하고 가속화하여 기업과 조직의 시간과 리소스를 절약하는 데 도움이 될 수 있습니다.

 

 

 

-----------------------------------------------------------------------------------

What are ways to improve Generative Artificial Intelligence?


Train models that are more restricted but still useful
Carefully consider how tools are deployed and build safeguards so that the models are more controllable
Align models with human preferences so that they are safer to use
Optimize training speed and cost through improvements in both hardware and software
Enable accessibility and flexibility for developers
Reduce time to generate outputs

 

생성적 인공지능(Generative Artificial Intelligence)을 향상시키는 방법은 무엇입니까?

더 제한적이지만 여전히 유용한 모델 train
도구를 배포하는 방법을 신중하게 고려하고 모델을 보다 쉽게 제어할 수 있도록 보호 장치를 구축하세요.
보다 안전하게 사용할 수 있도록 모델을 인간의 선호도에 맞춰 조정
하드웨어와 소프트웨어 모두의 개선을 통해 훈련 속도와 비용 최적화
개발자를 위한 접근성 및 유연성 지원
출력 생성 시간 단축

 

----------------------------------------------------------------------------------

 

How should Generative Artificial Intelligence models be evaluated?


Quality: Especially for applications that interact directly with users, having high-quality generation outputs is key. For example, in speech generation, poor speech quality is difficult to understand. Similarly, in image generation, the desired outputs should be visually indistinguishable from natural images

 

Diversity: A good generative model captures the minority modes in its data distribution without sacrificing generation quality. This helps reduce undesired biases in the learned models
 
Speed: Many interactive applications require fast generation, such as real-time image editing to allow use in content creation workflows

 

생성 인공지능(Generative Artificial Intelligence) 모델은 어떻게 평가해야 합니까?

품질: 특히 사용자와 직접 상호 작용하는 애플리케이션의 경우 고품질 생성 출력을 갖는 것이 중요합니다. 예를 들어 음성 생성에서 음성 품질이 좋지 않으면 이해하기 어렵습니다. 마찬가지로 이미지 생성 시 원하는 출력은 실제 이미지와 시각적으로 구별할 수 없어야 합니다.

 

다양성: 좋은 생성 모델은 생성 품질을 저하시키지 않고 데이터 분포에서 소수 모드를 포착합니다. 이는 학습된 모델에서 원하지 않는 편향을 줄이는 데 도움이 됩니다.
 
속도: 많은 대화형 애플리케이션에는 콘텐츠 제작 워크플로에 사용할 수 있도록 실시간 이미지 편집과 같은 빠른 생성이 필요합니다.

 

-----------------------------------------------------------------------------------

Unlike discriminative artificial intelligence that performs classification tasks, modern Generative Artificial Intelligence uses machine learning and deep neural networks to understand and conditionally generate new examples from complex data distributions. What are some well-established architectures used to develop Generative AI?


Embeddings to represent high-dimensional, complex data
Variational Autoecoders (VAE) use an encoder-decoder architecture to generate new data, typically for image and video generation
Generative Adversarial Networks (GAN) use a generator and discriminator to generate new data, often in video generation
Diffusion Models add and remove noises to generate quality images with high levels of detail
Transformers for Large Language Models such as GPT, LaMBDA, and LLaMa
Neural Radiance Fields (NeRF) for generating 3D content from 2D images

분류 작업을 수행하는 차별적 인공 지능과 달리, 현대 생성 인공 지능은 기계 학습과 심층 신경망을 사용하여 복잡한 데이터 분포에서 새로운 사례를 이해하고 조건부로 생성합니다. Generative AI를 개발하는 데 사용되는 잘 확립된 아키텍처는 무엇입니까?

고차원의 복잡한 데이터를 표현하기 위한 임베딩
VAE(Variational Autoecoders)는 인코더-디코더 아키텍처를 사용하여 일반적으로 이미지 및 비디오 생성을 위한 새로운 데이터를 생성합니다.
GAN(Generative Adversarial Networks)은 생성기와 판별기를 사용하여 종종 비디오 생성에서 새로운 데이터를 생성합니다.
확산 모델은 노이즈를 추가 및 제거하여 높은 수준의 디테일을 갖춘 고품질 이미지를 생성합니다.
GPT, LaMBDA, LLaMa 등의 대규모 언어 모델용 변환기
2D 이미지에서 3D 콘텐츠를 생성하기 위한 NeRF(Neural Radiance Fields)

 

-----------------------------------------------------------------------------------

Which of the following are accurate descriptions of how Generative Artificial Intelligence works?


Generative AI models use machine learning to understand patterns in the training dataset based on probability distribution order to generate a new example based on these patterns
Generative AI models share similarities with autocomplete

 

다음 중 생성 인공 지능(Generative Artificial Intelligence)의 작동 방식에 대한 정확한 설명은 무엇입니까?


Generative AI 모델은 기계 학습을 사용하여 확률 분포 순서에 따라 훈련 데이터 세트의 패턴을 이해하고 이러한 패턴을 기반으로 새로운 예를 생성합니다.
생성적 AI 모델은 자동 완성과 유사점을 공유합니다.

-----------------------------------------------------------------------------------

 

Which of the following are ways Generative Artificial Intelligence can transform the way we work?

In education and writing, Generative AI will help us explore ideas and brainstorm

In healthcare and biology, Generative AI will help us arrive at a better understanding of our health and discover treatment options when problems arise

In agriculture, Generative AI will help us achieve greater yield by improving remote sensing and robotics

In software development, Generative AI will help us write easier and faster software by suggesting code

In geoscience, Generative AI will help us better understand Earth’s ecosystems

 

다음 중 생성 인공지능(Generative Artificial Intelligence)이 우리가 일하는 방식을 변화시킬 수 있는 방법은 무엇입니까?

O 교육과 글쓰기에서 Generative AI는 아이디어를 탐색하고 브레인스토밍하는 데 도움이 됩니다.
O 의료 및 생물학 분야에서 Generative AI는 우리가 건강을 더 잘 이해하고 문제가 발생할 때 치료 옵션을 찾는 데 도움이 될 것입니다.
O 농업 분야에서 Generative AI는 원격 감지 및 로봇 공학을 개선하여 더 많은 수확량을 달성하는 데 도움이 될 것입니다.
O 소프트웨어 개발에서 Generative AI는 코드를 제안하여 더 쉽고 빠른 소프트웨어를 작성하는 데 도움이 됩니다.
O 지구과학에서 제너레이티브 AI는 지구 생태계를 더 잘 이해하는 데 도움이 될 것입니다.
X 제조에서는 Generative AI를 사용하여 결함 감지를 수행합니다.
X 생성적 AI는 사이버 보안 공격을 탐지하는 데 사용됩니다.

 

-----------------------------------------------------------------------------------

 

Which of the following about GPT are correct?


GPT stands for Generative Pre-Trained Transformer, which is used for training a language model to understand text or sequence of words. When it first started, GPT (2018) could perform simple text processing such as correctly identify which part of speech a particular word is in a sentence
GPT 2 (2019) could generate long form, coherent, and consistent sentences
GPT 3 (2020) demonstrated that a language model can be used for more than just understanding text and became capable of problem solving. Following its success, a series of interfaces such as WebGPT (2021), InstructGPT (2022), and ChatGPT (2022) emerged to captivate the world
At its core, Large Language Models such as those that power ChatGPT and Bard are trained at predicting next word(s), but in that process it must also learn a deep understanding of the vast language space

 

다음 중 GPT에 대한 설명으로 옳은 것은 무엇인가요?

* GPT는 Generative Pre-Trained Transformer의 약자로, 텍스트나 단어 순서를 이해하기 위해 언어 모델을 훈련하는 데 사용됩니다. 처음 시작했을 때 GPT(2018)는 특정 단어가 문장에서 어떤 품사인지 정확하게 식별하는 등 간단한 텍스트 처리를 수행할 수 있었습니다.
*GPT 2(2019)는 긴 형식, 일관되고 일관적인 문장을 생성할 수 있습니다.
*GPT 3(2020)은 언어 모델이 단순히 텍스트를 이해하는 것 이상으로 사용될 수 있고 문제 해결이 가능해졌음을 보여주었습니다. 성공에 이어 WebGPT(2021), InstructGPT(2022), ChatGPT(2022) 등 일련의 인터페이스가 등장해 세계를 사로잡았습니다.
*기본적으로 ChatGPT 및 Bard를 지원하는 것과 같은 대규모 언어 모델은 다음 단어를 예측하도록 훈련되지만, 그 과정에서 광대한 언어 공간에 대한 깊은 이해도 배워야 합니다.

 

 

 

-----------------------------------------------------------------------------------

 

 

Why is advancement in language modeling revolutionary?


Language is compositional, which means words can be combined in order to form new meanings and expressions
All human activities are described by language such as answering questions, solving math problems, providing instructions, using tools, and even playing games
Language modeling has demonstrated the ability to encode, understand, and unify many different human, computer, and domain-specific languages
Language models can be trained to use tool such as web search, run programs, navigate robots, and write code
* All the above, making language models universally applicable

 

언어 모델링의 발전이 혁신적인 이유는 무엇입니까?

언어는 구성적입니다. 즉, 새로운 의미와 표현을 형성하기 위해 단어가 결합될 수 있음을 의미합니다.
질문에 대답하기, 수학 문제 풀기, 지침 제공하기, 도구 사용하기, 게임하기 등 모든 인간 활동은 언어로 설명됩니다.
언어 모델링은 다양한 인간, 컴퓨터 및 도메인별 언어를 인코딩, 이해 및 통합하는 능력을 입증했습니다.
언어 모델은 웹 검색, 프로그램 실행, 로봇 탐색, 코드 작성과 같은 도구를 사용하도록 훈련될 수 있습니다.
* 위의 모든 것, 언어 모델을 보편적으로 적용 가능하게 만들기

 

-----------------------------------------------------------------------------------

 

 

Developing a Generative Artificial Intelligence model is resource intensive. Companies looking to leverage Generative AI have the option to either use it out-of-the-box or fine-tune them to perform specific tasks. How can enterprises efficiently fine-tune their language models to become less biased and better at solving specific tasks?


- Collect and fine-tune an existing foundational model with a relatively small sample of demonstration data for specific tasks (supervised)
- Use reinforcement learning and reward system to improve model outputs (RL)
- Enable human feedback such as rating or ranking the model outputs (HF)
- Train a language model from scratch

 

>> In machine learning, reinforcement learning from human feedback (RLHF) or reinforcement learning from human preferences is a technique that trains a "reward model" directly from human feedback and uses the model as a reward function to optimize an agent's policy using reinforcement learning (RL) through an optimization algorithm like Proximal Policy Optimization.

 

생성적 인공 지능 모델을 개발하는 것은 리소스 집약적입니다. Generative AI를 활용하려는 기업은 이를 즉시 사용하거나 특정 작업을 수행하기 위해 미세 조정할 수 있습니다. 기업이 편견을 덜고 특정 작업을 더 잘 해결하기 위해 언어 모델을 효율적으로 미세 조정하려면 어떻게 해야 합니까?


O 특정 작업에 대한 상대적으로 작은 데모 데이터 샘플을 사용하여 기존 기본 모델을 수집하고 미세 조정합니다(감독)
O 강화 학습 및 보상 시스템을 사용하여 모델 출력(RL) 개선
O 모델 출력 평가 또는 순위 지정과 같은 인간 피드백 활성화(HF)
X 처음부터 언어 모델 학습
 

기계 학습에서 인간 피드백 강화 학습(RLHF) 또는 인간 선호도 강화 학습은 인간 피드백에서 직접 "보상 모델"을 훈련하고 해당 모델을 보상 함수로 사용하여 강화 학습(RLHF)을 사용하여 에이전트의 정책을 최적화하는 기술입니다. ) Proximal Policy Optimization과 같은 최적화 알고리즘을 통해.

-----------------------------------------------------------------------------------

 

 

What are some examples of enterprises fine-tuning Large Language Models for specific use cases?


An LLM fine-tuned on text books can assist teachers in a classroom setting
An LLM fine-tuned on a company’s call center knowledge will provide answers to questions and perform basic troubleshooting
An LLM fine-tuned on legislation documents can assist lawmakers in policy making
An LLM fine-tuned on medical literature can assist healthcare professionals in patient health diagnosis

 

 

특정 사용 사례에 맞게 대규모 언어 모델을 미세 조정하는 기업의 예는 무엇입니까?

교과서를 미세 조정한 LLM은 교실 환경에서 교사를 도울 수 있습니다.
회사의 콜센터 지식을 세밀하게 조정한 LLM이 질문에 대한 답변을 제공하고 기본적인 문제 해결을 수행합니다.
입법 문서에 대해 세밀하게 조정된 LLM은 국회의원의 정책 결정에 도움을 줄 수 있습니다.
의학 문헌을 정밀하게 조정한 LLM은 환자 건강 진단에서 의료 전문가를 도울 수 있습니다.

-----------------------------------------------------------------------------------

 

What other modalities can Generative Artificial Intelligence take?


Image-to-image to re-synthesize images and edit them
Text-to-3D to create 3D objects with a text input
Text-to-speech to synthesize audio and convert text to speech
Speech-to-speech to convert speech to speech in another voice or language

 

생성적 인공 지능(Generative Artificial Intelligence)이 취할 수 있는 다른 양식은 무엇입니까?

> 이미지를 이미지로 재합성하고 편집하는 이미지 투 이미지
> 텍스트 입력을 통해 3D 객체를 생성하는 Text-to-3D
> 오디오를 합성하고 텍스트를 음성으로 변환하는 텍스트 음성 변환
> 음성을 다른 음성이나 언어의 음성으로 변환하는 음성 대 음성

 

 

-----------------------------------------------------------------------------------

 

Which industries will Generative Artificial Intelligence impact?


Service industries such as Healthcare
Geoscience
Automotive and Robotics
Virtual Worlds

 

생성적 인공지능(Generative Artificial Intelligence)은 어떤 산업에 영향을 미칠까요?


헬스케어 등 서비스 산업
지구과학
자동차 및 로봇 공학
가상 세계

-----------------------------------------------------------------------------------

How can image synthesis models be used?


Enable artistic as well as non-artistic creators to rapidly explore new ideas
Remove or lower skill or time barriers for content generation
Compose and edit images quickly, therefore increasing productivity
Alter styles, materials, textures, and even relative positions of objectives in images
Improve auto-colorization and super-resolution imaging
 

이미지 합성 모델은 어떻게 사용할 수 있나요?

예술적 창작자와 비예술적 창작자가 새로운 아이디어를 빠르게 탐색할 수 있도록 지원
콘텐츠 생성을 위한 기술 또는 시간 장벽을 제거하거나 낮추십시오.
이미지를 빠르게 구성하고 편집하여 생산성을 높입니다.
스타일, 재료, 질감은 물론 이미지 내 목표의 상대적 위치까지 변경할 수 있습니다.
자동 색상화 및 초고해상도 이미징 개선

-----------------------------------------------------------------------------------

How does Generative Artificial Intelligence and virtual worlds intersect?

Generative AI can be used to populate virtual worlds with 3D objects
Generative AI can be used to create digital avatars to represent ourselves
Generative AI can be used to create realistic environments
Generative AI can be used to create realistic user-specific interactions, engagements, and experiences
Generative AI can be used detect cyber security attacks

생성 인공 지능(Generative Artificial Intelligence)과 가상 세계는 어떻게 교차합니까?

생성적 AI를 사용하여 가상 세계를 3D 개체로 채울 수 있습니다.
생성적 AI를 사용하여 우리 자신을 나타내는 디지털 아바타를 만들 수 있습니다.
생성 AI를 사용하여 현실적인 환경을 만들 수 있습니다.
생성적 AI를 사용하여 현실적인 사용자별 상호 작용, 참여 및 경험을 생성할 수 있습니다.
X 생성 AI를 사용하여 사이버 보안 공격을 탐지할 수 있습니다.

-----------------------------------------------------------------------------------

What are the technical challenges of Generative Artificial Intelligence?


Developing Generative AI models with a lot of parameters involves large compute infrastructure
Building applications that use Generative AI demands fast output generation in order to be useful
Training Generative AI models is compute intensive and leads to high power consumption
Collecting training data has complicated challenges
Leveraging Generative AI technology to solve problems requires expertise

 

생성 인공 지능(Generative Artificial Intelligence)의 기술적 과제는 무엇입니까?


매개변수가 많은 Generative AI 모델을 개발하려면 대규모 컴퓨팅 인프라가 필요합니다.
Generative AI를 사용하는 애플리케이션을 구축하려면 유용성을 위해 빠른 출력 생성이 필요합니다.
생성적 AI 모델 교육은 컴퓨팅 집약적이며 높은 전력 소비로 이어집니다.
훈련 데이터 수집에는 복잡한 문제가 있습니다.
Generative AI 기술을 활용하여 문제를 해결하려면 전문성이 필요합니다.

 

-----------------------------------------------------------------------------------

Generative Artificial Intelligence produces confident, coherent results but can often be wrong. What are the common issues of Generative AI produced outputs?


Hallucination
Intellectual property ownership of AI-generated content
Cheap and easy content creation can lead to misuse, abuse, or even harm
Content produced by Generative AI can be biased based on the underlying data on which it’s trained
Realistic-sounding content can make it difficult to identify inaccuracy

생성적 인공 지능(Generative Artificial Intelligence)은 자신감 있고 일관된 결과를 생성하지만 종종 틀릴 수 있습니다. Generative AI가 생산한 결과물의 일반적인 문제는 무엇입니까?


환각
AI 생성 콘텐츠의 지적재산권
저렴하고 쉬운 콘텐츠 제작은 오용, 남용 또는 심지어 해를 끼칠 수도 있습니다.
Generative AI로 생성된 콘텐츠는 훈련된 기본 데이터를 기반으로 편향될 수 있습니다.
사실적으로 들리는 콘텐츠로 인해 부정확성을 식별하기 어려울 수 있습니다.

-----------------------------------------------------------------------------------

What are the challenges related to training data for Generative Artificial Intelligence?


High-quality training data is difficult and expensive to acquire
Data may contain biases
Some data can be harmful
Copyright license may be required
Some data should be confidential and kept private

생성 인공 지능(Generative Artificial Intelligence)을 위한 훈련 데이터와 관련된 과제는 무엇입니까?


고품질 훈련 데이터는 획득하기 어렵고 비용이 많이 듭니다.
데이터에는 편향이 포함될 수 있습니다.
일부 데이터는 유해할 수 있습니다.
저작권 라이센스가 필요할 수 있습니다
일부 데이터는 기밀로 유지되어야 합니다.

 

-----------------------------------------------------------------------------------

Which of the following about prompt engineering is accurate?


A prompt is the specific instruction, context, and constraints provided to the Generative AI model to achieve a task or objective
Prompt engineering involves developing a library of well-designed prompts to interface with Generative AI models
Prompt engineering involves building proper controls to create more precise, specific, and useful responses
Prompt engineering incites a new kind of creativity that comes from interacting with the Generative AI models, where one figures out how to ask questions in more useful ways to get valuable results
Building a language model from scratch is more efficient than prompt engineering for fine-tuning Generative AI models

프롬프트 엔지니어링에 대한 다음 설명 중 올바른 것은 무엇입니까?


프롬프트는 작업이나 목표를 달성하기 위해 Generative AI 모델에 제공되는 특정 지침, 컨텍스트 및 제약 조건입니다.
프롬프트 엔지니어링에는 Generative AI 모델과 인터페이스하기 위해 잘 설계된 프롬프트 라이브러리를 개발하는 작업이 포함됩니다.
신속한 엔지니어링에는 보다 정확하고 구체적이며 유용한 응답을 생성하기 위해 적절한 제어를 구축하는 것이 포함됩니다.
신속한 엔지니어링은 Generative AI 모델과의 상호 작용에서 비롯되는 새로운 종류의 창의성을 불러일으킵니다. 여기에서 가치 있는 결과를 얻기 위해 보다 유용한 방법으로 질문하는 방법을 알아냅니다.
XGenerative AI 모델을 미세 조정하기 위한 즉각적인 엔지니어링보다 처음부터 언어 모델을 구축하는 것이 더 효율적입니다.

-----------------------------------------------------------------------------------

https://www.nvidia.com/en-us/events/siggraph/

NVIDIA at SIGGRAPH 2023 Conference

 

https://www.youtube.com/watch?v=Rk3nTUfRZmo

https://www.nvidia.com/en-us/glossary/data-science/generative-ai/

What is Generative AI? | NVIDIA