본문 바로가기
AI/AI 소개

[AI 소개] 무료 립싱크 AI 사이트

by OhEasy 2023. 5. 13.
728x90

유튜브를 좀 보다 보면 AI만 사용해서 영상을 제작한 경우들이 간혹 보인다.

이슈가 되었던 동영상은

demonflyingfox - YouTube

발렌시아가 컨셉으로 스타일링한 해리포터 영상인데

티타임즈TV - YouTube

티타임즈에서 사용 방법을 올려주셨다.

근데 사용 된 AI를 보면 전부

유료 혹은 추가 결제가 필요한 AI들이다.

해당 영상에서 사용한

D-ID의 경우도

 

Pricing

To ensure fair and ethical usage and limit prohibited content, D-ID uses automated 3rd party moderation tools. Manual review is only available to enterprise users for cases where such tools make mistakes.

www.d-id.com

워터 마크가 붙던가

14일 당 5분으로 제한이 되는 것 같다.

그래서 완전 무료 사이트를 찾던 중

예전 사이트이긴 하지만 완전 무료인 곳을 발견했다.

 

Interactive Wav2Lip Demo

In our paper, A Lip Sync Expert Is All You Need for Speech to Lip Generation In the Wild, ACM Multimedia 2020, we aim to lip-sync unconstrained videos in the wild to any desired target speech. Current works excel at producing accurate lip movements on a st

bhaasha.iiit.ac.in

위 사이트인데

뭐 공개된 시점은 2020년으로

대 AI 시대인 만큼 예전 자료이긴 하다.

Interactive Wav2Lip Demo (iiit.ac.in)

스크롤을 조금 내리면

Interactive Demo라는 곳이 있는데

비디오 파일과 오디오 파일/오디오가 들어간 비디오 파일을 넣는 공간이 보인다.

두곳에 각각 파일들을 넣고

Sync this pair 버튼을 눌러주면 로딩 뒤 변환 된 영상이 생성 된다.


 

사실 공짜여도 어느정도 퀄리티가 보장 되어야 사용 할 것이다.

퀄리티를 확인하기 위해

2가지 추가 AI를 활용하여 테스트를 해보기로 했다.

1. 이미지 생성 AI | BlueWilow
2. 음악 및 음성 생성 AI | BeatBot

위 두가지 AI를 사용하기로 한다.


1. 이미지 생성 | BlueWilow

프롬프트

더보기

asian young man with short black hair, wearing jeans and a black hoodie, stylized painting by Alphonse Mucha, highly detailed, concept art, oil painting, digital art, illustration, trending on artstation, very very detailed, HD Quality, 4k resolution, 8k resolution, oil on canvas, Alphonse Mucha, Edmund Blair Leighton, Charlie

생성 결과

BlueWilow

이미지 생성이 완료 되었다.

다음은 음악이다.


2. 음악 생성 | ChatGPT + BeatBot

음악 생성에 왜 ChatGPT냐 할 수 있지만.

I'm trying to create a song in 10 seconds using generative AI that can make short songs.
It needs prompts and lyrics to be input into the song generation AI to create music that matches the image.

The description of the image I have is as follows.
asian young man with short black hair, wearing jeans and a black hoodie, stylized painting by Alphonse Mucha, highly detailed, concept art, oil painting, digital art, illustration, trending on artstation, very very detailed, HD Quality, 4k resolution, 8k resolution, oil on canvas, Alphonse Mucha, Edmund Blair Leighton, Charlie

Based on the description of the image above, I'd like you to pass along the prompts and lyrics to input into the song generator AI.

In the case of a prompt, write it within 100 characters, but please write it by reflecting the following rules.
1. Write a sentence that makes you feel when you think of an image based on the description of the image
2. When delivering prompts, write at least three, and to distinguish the prompts
Prompt_1 : , Prompt_2 : should be separated in the same way
3. Write 1 genre and 3 instruments suitable for each prompt
4. A prompt that contains all the contents of a sentence, genre, and instrument, and separate each element using a comma.

for lyrics
1. Write within 100 characters excluding spaces
2. Write different lyrics for each prompt
3. To distinguish each lyrics, separate them like Liric_1:, Liric_2:

이런 명령어를 넣어서 대충 만들기로 했다.

물론 프롬프트 지니를 활용한 번역이다.

ChatGPT

잘 나온다.

작성 속도가 매우 느리기 때문에 1번으로 그냥 간다

 

BeatBot

AI Song Maker

beatbot.fm

BeatBot으로 가서 작성 된 프롬프트를 넣는다.

일부 내용은 수정해야 하는데

BeatBot

장르나 보컬 타입은 --를 통해 설정할 수 있다.

예상이긴 한데

등록되지 않은 장르나 보컬 타입의 경우 에러가 발생한다.

위의 경우 Lo-Fi hip hop에서 걸리는듯 해서 그냥 쉼표로 넣었다.

완성 곡

beatbot-c93d8c1bb1254c2c8c264d140ff484f3-audio.mp3
0.13MB


이미지와 노래가 준비 되었으니 테스트를 한다.

우려 되는 점은 실사풍이 아닌 카툰풍이라는 점

Interactive Wav2Lip Demo (iiit.ac.in)

위에 비디오를 넣으라 하지만

이미지도 넣을 수 있다.

로딩중

이렇게 잠깐의 로딩 뒤 영상이 생성 된다.

 
완성 된 모습

생각보다는 퀄리티가 나쁘지 않은 것 같다.

그래도 유료보다는 못한 것 같다.

728x90

댓글